Po krótkim pobycie nad Morzem Kaspijskim jako lekarz osiedlił się w Mariampolu, gdzie praktykował swój zawód. Nawiązał tam kontakt z litewskimi socjaldemokratami, pisywał w tamtejszej prasie. W 1902 przygotowywał program polityczny dla Partii Demokratycznej. Jego dom w Suwałkach stał się przystanią dla lewicowo zorientowanych opozycjonistów. Za wstawiennictwem Griniusa udało się założyć pierwszy litewski teatr w Mariampolu oraz szkołę z wykładowym językiem litewskim. Pod presją urzędników carskich wraz z rodziną musiał opuścić rodzinne miasto i osiedlić się w Wilnie. Zajmował się tutaj pracą dziennikarską, pisywał do gazet związanych z ludowcami, wydawał broszury polityczne. Po powrocie do Mariampola zaangażował się w działalność towarzystwa naukowego Šviesa („Światło”). W latach 1908–1910 znów przebywał w Wilnie i był inwigilowany przez carskie służby. Rok później zorganizował w Mariampolu pierwszą wystawę rolniczą na Litwie. Podczas I wojny światowej przebywał w dalekiej części Rosji (Kisłowodzk), gdzie w 1918 roku bolszewicy zabili mu żonę i córkę.