Arcybiskup Eleuteriusz odmawiał płacenia obowiązkowych składek na utrzymanie Kościoła, a nawet zabronił kapłanom swojej eparchii modlić się w czasie nabożeństw za metropolitę Jerzego. Równocześnie hierarcha starał się doprowadzić do ożywienia życia parafialnego na Wileńszczyźnie, które zamarło po okresie bieżeństwa. Szczególną opieką otaczał żeński monaster św. Marii Magdaleny w Wilnie. Gdy mniszki z tej wspólnoty straciły dotychczasowy dom zakonny (klasztor zarekwirowany zakonowi wizytek przez władze carskie), doprowadził do ich tymczasowego zamieszkania w budynkach rozwiązanego męskiego monasteru Trójcy Świętej.
Jego otwarte wystąpienia przeciw Jerzemu i popierającym go biskupom doprowadziły do usunięcia go z katedry. 6 września 1922 r. synod, złożony z trzech hierarchów: metropolity Jerzego, arcybiskupa Dionizego (Waledyńskiego) oraz biskupa Aleksandra (Inoziemcowa), uznał jego postępowanie za „niekanoniczne, nielegalne i anarchistyczne” i odebrał mu zarząd eparchii wileńskiej. 14 września 1922 arcybiskup Eleuteriusz został zatrzymany bezpośrednio po odprawieniu Świętej Liturgii w monasterskiej cerkwi Świętego Ducha w Wilnie i przebywał przez trzy miesiące w krakowskim klasztorze kamedułów na Bielanach.