Agresja III Rzeszy na Polskę w 1939 roku, spowodowała że udało mu się zbiec z więzienia w Rawiczu. Wraz z Marianem Buczkiem przedostał się do Warszawy, której bronił po wstąpieniu do Robotniczej Brygady Obrony Warszawy. Po kapitulacji stolicy pod koniec września 1939 roku, udał się do Brześcia nad Bugiem, gdzie pracował na kolei i nawiązał współpracę z NKWD. W 1941 roku udał się do Moskwy, gdzie po przeszkoleniu wszedł w skład Pierwszej Grupy Inicjatywnej Polskiej Partii Robotniczej. 26 września samolot mający przetransportować tę grupę rozbił się tuż po starcie z lotniska w Wiaźmie. 6 stycznia 1942 przerzucony drogą powietrzną na tereny powiatu koneckiego. Z ramienia kierownictwa PPR wyjechał na teren Zagłębia Dąbrowskiego i Górnego Śląska. Po drodze zatrzymał się w Krakowie, gdzie wraz ze Stanisławem Ziają, pełnomocnikiem KC PPR, prowadził rozmowy z kierownictwem organizacji "Polska Ludowa" i nawiązał z nią współpracę. Organizował struktury PPR i oddziały Gwardii Ludowej na Śląsku i Zagłębiu, jednak gdy Niemcy zmobilizowali bardzo duże siły w celu ujęcia organizatorów lewicowego ruchu oporu, zagrożony aresztowaniem Śliwa został przeniesiony na teren województwa krakowskiego, gdzie od lipca 1942 był dowódcą IV Obwodu GL.