W 1918 został mianowany przez papieża Benedykta XV biskupem wileńskim. Funkcję tę pełnił do 1925 roku. W tym okresie władze polskie zwracały uwagę na jego działalność na tle – w ich opinii – systematycznego usuwania polskich księży z placówek i zastępowanie ich duszpasterzami litewskimi, lub białoruskimi. Efektem tego było sprzyjanie agitacji antypolskiej wśród ludności, oraz poparcie i ochrona diecezjalna w wypadkach, gdzie księża sami partycypowali w akcjach politycznych i antypaństwowych.

Był też założycielem Zgromadzenia Sióstr Ubogich Niepokalanego Poczęcia NMP na Litwie i Zgromadzenia Sióstr Służebnic Jezusa w Eucharystii. Złożył rezygnację z funkcji biskupa w 1925, by zająć się zgromadzeniem, ale Pius XI wówczas mianował go arcybiskupem i powierzył mu stanowisko wizytatora apostolskiego na Litwie. Przyczynił się do poprawy stosunków Litwy z Watykanem organizując nową prowincję kościelną i przygotowując zawarcie konkordatu. Zmarł w Kownie 27 stycznia 1927 roku. Jego relikwie są przechowywane w bazylice św. Michała Archanioła w Mariampolu.

28 czerwca 1987 roku został beatyfikowany przez papieża św. Jana Pawła II;