Po kolejnym aresztowaniu w 1936 został posądzony o zdradę stanu, Filip Sieroń otrzymał wyrok 15 miesięcy więzienia i został osadzony w zakładzie karnym w Świdnicy, skąd przetransportowano go do obozu w Lichtenburgu, a następnie do Buchenwaldu. Zwolniono go 28 kwietnia 1940, powrócił do Zabrza i podjął pracę w kopalni "Königin Luise" (po 1945 "Zabrze"), współpracował z konspiracyjnymi grupami antynazistowskimi. Ponownie został aresztowany w sierpniu 1944, a następnie po zwolnieniu warunkowym przebywał w ukryciu. Po zajęciu Górnego Śląska przez Armię Czerwoną zgłosił się do ochotniczego zabezpieczania zakładów pracy oraz pracy w komendanturze. Od marca 1945 należał do Polskiej Partii Robotniczej (PPR) i tworzył komórki partyjne, w grudniu tego roku był delegatem na I Zjazd PPR. Po powrocie został członkiem Plenum i Egzekutywy Komitetu Miejskiego PPR w Zabrzu oraz Komitetu Wojewódzkiego PPR w Katowicach. Aktywnie uczestniczył w Centralnym Związku Zawodowym Górników, który po zjeździe w 1948 zmienił nazwę na Związek Zawodowy Górników. Przewodniczył Radzie Zakładowej kopalni "Zabrze-Wschód". W latach 1945–46 pracował w oddziale CZZG w Zabrzu, a następnie przez rok przewodniczył Miejskiej Rady Związków Zawodowych.