Żymierski przebywał w więzieniu na warszawskim Mokotowie i w Cieszynie do 1931. Wówczas nawiązał pierwsze kontakty z komunistami, porzucając wyznawane wcześniej poglądy polityczne. Karol Popiel twierdził później, że oskarżenie Żymierskiego o korupcję było rodzajem zemsty politycznej ze strony Józefa Piłsudskiego i miało pośrednio zdyskredytować Władysława Sikorskiego.

W późniejszym okresie przebywał we Francji (do 1938), gdzie wstąpił do Komunistycznej Partii Polski. W 1932 zwerbował go do współpracy sowiecki wywiad cywilny INO NKWD (lub Razwiedupr – wywiad Armii CzerwonejWówczas wywiadem wojskowym ZSRR zajmował się Razwiedupr, w związku z NKWD.), który następnie w 1937 (w chaosie spowodowanym terrorem wielkiej czystki) zerwał z nim kontakty, podejrzewając Żymierskiego o dezinformację. Żymierski dostarczał NKWD informacje na temat organizacji i wyszkolenia Wojska Polskiego, transakcji Ministerstwa Spraw Wojskowych we Francji, a także werbował agentów dla wywiadu ZSRR z korpusu oficerskiego WP.

W październiku 1938 wrócił do Polski.