II Rzeczpospolita W odrodzonej Polsce, został 3 kwietnia 1919 r. wysłany do Wiednia, aby objąć stanowisko delegata do spraw likwidacji polskich spraw kolejowych na terenie byłej monarchii habsburskiej nieobjętych polską administracją. Funkcję tę piastował do 1922 r. 4 sierpnia 1922 r. został przeniesiony na Górny Śląsk i mianowany prezesem bytomskiej Dyrekcji Kolei. Jednocześnie wszedł w skład Komitetu Naczelnego, tymczasowo administrującego kolejami górnośląskimi po obu stronach nowo wytyczonej granicy polsko-niemieckiej.

Karliński otrzymał propozycję objęcia resortu kolei żelaznych w rządzie Wincentego Witosa, którą przyjął z wahaniem, którego przyczyną było pojawienie się w spekulacjach prasowych na temat obsady ministerstwa nazwiska Andrzeja Nosowicza. 28 maja 1923 r. objął stanowisko z zastrzeżeniem o nadaniu jego misji niepolitycznego charakteru. Uważano, iż jest wspierany przez endecki Związek Ludowo-Narodowy. Jako minister działał na rzecz akcesu Polski do Międzynarodowego Związku Kolejowego, co miało korzystnie wpłynąć na podniesienie jakości funkcjonowania kolei. Dążył do rozbudowy zaplecza socjalnego i bytowego pracowników kolejowych. Zabiegał o środki na budownictwo mieszkalne dla kolejarzy. Podejmował decyzje w sprawach usprawnienia ruchu transgranicznego.