2 grudnia 1889 złożył wieczyste śluby mnisze przed biskupem symbirskim Warsonofiuszem. 21 stycznia roku następnego został wyświęcony na biskupa smoleńskiego i dorogobuskiego. Ceremonii, która odbyła się w petersburskiej Ławrze Aleksandra Newskiego, przewodniczył metropolita nowogrodzki, petersburski i fiński Izydor. Po sześciu latach biskup Guriasz na własne życzenie odszedł z urzędu i został członkiem Świątobliwego Synodu Rządzącego oraz przewodniczącym rady ds. szkół. Dzięki jego działalności w znaczący sposób wzrósł poziom nauczania w szkołach cerkiewnych, biskup Guriasz doprowadził również do podniesienia nakładów państwowych na finansowanie szkół. Opracował również nowy program nauczania dwuklasowych szkół, opublikowany w 1902.
W 1900 objął katedrę nowogrodzką i staroruską. Nadal zasiadał w Synodzie i od 1904 był jego członkiem stałym. W 1903 reaktywował Monaster Terapontowski, sprowadzając do niego wspólnotę mniszek i przekazując z prywatnych funduszy 5 tys. na jego remont. Sfinansował także renowację staroruskiej cerkwi Przemienienia Pańskiego nad Nieriedicą. W czasie rewolucji 1905 roku sprzeciwił się zaangażowaniu politycznemu duchowieństwa, zaś ihumena Arseniusza (Aleksiejewa), jednego z liderów skrajnie prawicowego Związku Narodu Rosyjskiego, usunął z eparchii.