W latach 1924–1926 był Głównym Inspektorem Kolei, a od 1925 członkiem Rady Technicznej przy Ministrze Kolei (od 1926 Państwowej Rady Kolejowej). Zainicjował powstanie i w latach 1925–1933 redagował pismo „Inżynier Kolejowy”. Był przewodniczącym komitetu redakcyjnego jubileuszowego wydawnictwa Dziesięciolecie Polskich Kolei Państwowych 1918-1928 (Warszawa 1928).
Pochowany na cmentarzu w Czyżewie, w pobliżu swojego majątku Gostków w powiecie łomżyńskim.
Publikacje Stefana Sztolcmana książki Из практики строительства железных дорог, Санкт-Петербург 1906, Развитие сети железных дорог Европейской России в связи с результатами ее эксплуатации, Санкт-Петербург 1907, Niektóre zagadnienia gospodarki kolejowej w zastosowaniu do kolejnictwa polskiego, Warszawa 1924, [wraz z Adamem Krzyżanowskim] Koszty własne przewozów na liniach normalnotorowych Polskich Kolei Państwowych za rok 1924, Warszawa 1925 [wraz z Adamem Krzyżanowskim] Koszty własne przewozów na liniach normalnotorowych Polskich Kolei Państwowych za rok 1925, Warszawa 1926 [wraz z Adamem Krzyżanowskim] Koszty własne przewozów na liniach normalnotorowych Polskich Kolei Państwowych za rok 1926, Warszawa 1928 Koszty własne przewozów na liniach normalnotorowych Polskich Kolei Państwowych za rok 1927-1928, Warszawa 1929 Koszty własne przewozów na liniach