Po wybuchu II wojny światowej w szeregach 74 p.p. walczył w kampanii wrześniowej 1939. Brał czynny udział w konspiracji SZP/ZWZ na terenie Krakowa. W styczniu 1940 przez Komendę Okręgu ZWZ w Krakowie został skierowany na Podkarpacie, gdzie objął funkcję zastępcy komendanta Inspektoratu Jasło ZWZ. Działając energicznie z polecenia inspektora por. rez. łącz. Stanisława Pieńkowskiego, organizował struktury organizacyjne ZWZ na terenie powiatu Brzozów. W końcu kwietnia 1940 mianowany został komendantem Obwodu ZWZ Sanok. Jednocześnie rozbudowywał ZWZ na terenie Brzozowa, gdzie z jego rekomendacji inspektor powierzył funkcję komendanta Obwodu ZWZ Brzozów kapitanowi Ignacemu Wanicowi ps. „Jaksa”. W Sanoku pod nazwiskiem konspiracyjnym Rudolf Schmidt pracował jako urzędnik w miejscowym Arbeitsamcie (Urząd Pracy). W okresie dowodzenia obwodem sanockim ZWZ organizował sztab obwodu oraz siatkę placówek terenowych. Inicjował organizowanie na terenie placówek plutonów szkieletowych ZWZ. Współpracował z siatką przerzutową kierowaną przez J. Rybickiego. Pomagał w uzyskaniu dla osób przerzucanych kwater oraz pomocy materialnej. W 1940 nawiązał kontakt z majorem Władysław Owocem z NOW i prowadził z nim rozmowy dotyczące scalenia NOW z ZWZ, ale bez rezultatu.