W 1941 r. wstąpił do „Chłopskiej Straży”, a następnie został komendantem Garnizonu Batalionów Chłopskich w Ostrowie Lubelskim. W początkach 1942 r. garnizon liczył ponad 100 członków i stawał się znaczącym ośrodkiem ruchu oporu. Jego garnizon kolportował prasę, prowadził nasłuchy radiowe, organizował szpital dla rannych partyzantów, odbierał zrzuty lotnicze zaopatrzenia wojskowego, udzielał pomocy innym grupom partyzanckim. Organizował akcje zbrojne i obronne przed Niemcami w lasach parczewskich i pod Rąblowem.
Wobec zbliżającego się frontu armii sowieckiej, brał udział w organizacji administracji państwowej. Wchodził w skład konspiracyjnej Lubelskiej Wojewódzkiej Rady Narodowej, pełniąc funkcję zastępcy, a następnie przewodniczącego tego organu. Rada składała się z różnych nurtów społecznych, odbyła cztery posiedzenia, podczas których m.in. zabroniła walk bratobójczych. Powołała też sąd ludowy oraz gminną radę w Ostrowie Lubelskim. Wobec różnicy poglądów 14 lipca 1944 r. kpt. Zygmunt Goławski, jako zdeklarowany demokrata o poglądach katolickich, zrezygnował z pełnionej funkcji i zarządził wybór nowego przewodniczącego.