Od lutego 1941 r. w ZWZ-AK w stopniu sierżanta, jako podoficer broni 5 i 6 kompanii. alt=Zdjęcie przedstawiające Romana Zarembę wraz z Orkiestrą M/S Piłsudski|mały|Orkiestra M/S Piłsudski Gdynia, Roman Zaremba drugi od prawej.|340x340px W służbie uzbrojenia zastępca oficera uzbrojenia por. H. Krygiera „Walskiego”, urządził depozytowy magazyn broni na wieży kościoła żbikowskiego. Od 1 marca 1944 r. szef 5 kompanii. Niestrudzony w pracy podziemnej, wyróżniony za wzorowe przechowywanie broni. Dorywczo brał udział w akcjach zbrojnych dywersji w grupie „Andrzeja” „Kedywu” AK, jednocześnie był współpracownikiem technicznym i kolporterem na Pruszków podziemnego wydawnictwa „Demokrata”.
Po rozwiązaniu AK od 19 stycznia 1945 r. w PAL - DOK I Warszawa (według arkusza ewidencji personalnej i załączonych zaświadczeń). Mimo że był żonaty i miał czworo dzieci w wieku od 3 do 15 lat, był całkowicie oddany sprawie walki, a żona aprobowała jego działalność w konspiracji i często pomagała mu w przenoszeniu broni. Od marca 1945 roku w stopniu porucznika przydzielony do odbywania służby w WP w Warszawie, od maja oddelegowany do Torunia na stanowisko kierownika Garnizonowego Domu Żołnierza. Po otrzymaniu samodzielnego mieszkania w Toruniu w 1945 roku sprowadza rodzinę z Pruszkowa. W czerwcu 1946 mianowany przez Pełnomocnika Rządu Tymczasowego R.P.