Po agresji ZSRR na Polskę odmówił złożenia broni i wraz z innymi żołnierzami podjął bezskuteczną próbę przekroczenia granicy polsko-rumuńskiej, w trakcie której dostał się do niewoli sowieckiej, z której jednak zdołał szybko zbiec i powrócić w rodzinne strony.
W czasie okupacji niemieckiej, Rażmowski najpierw na jesieni 1939 organizował konspiracyjne oddziały wojskowe w powiatach węgrowskim, sokołowskim i ostrowskim, a następnie nawiązał kontaktu z członkami Organizacji Wojskowej „Wilki” (OWW) i 30 marca 1940 podporządkował się tej organizacji, otrzymując także awans na kapitana i nominację na komendanta OWW na powiaty węgrowski, sokołowski i ostrowski. W tym okresie Władysław Rażmowski posługiwał się pseudonimem „Zawada”. 31 marca 194 Komenda Główna OWW awansowała Władysława Rażmowskiego na majora, powierzając mu jednocześnie dowództwo brygady dywersyjno-sabotażowej, organizowanej na terenie powiatów, w których kierował konspiracją wojskową OWW. Po scaleniu Organizacji Wojskowej „Wilki” z Armią Krajową, latem 1942 został mianowany zastępcą komendanta Obwodu Węgrów AK w stopniu porucznika (AK nie honorowało stopni OWW).