Po wybuchu II wojny światowej przyjechał do ZSRR.
W czerwcu 1940 został aresztowany przez NKWD, uwięziony na Łubiance i torturowany. 15 marca 1941 skazany został na pięć lat łagru za antysowiecką propagandę – w rozmowach w komunie więziennej w Koronowie w 1937 miał negować kontrrewolucyjny charakter trockizmu i wspierać trockistów podczas swej działalności w latach 20. na Ukrainie. Z obozu koncentracyjnego został zwolniony w 1945 na osobistą interwencję Bolesława BierutaNietypowo potoczyły się losy Mazura, którego w czerwcu 1940 r. aresztowało NKWD. 15 marca 1941 r. został on skazany na 5 lat obozu za „antysowiecką propagandę”. Podczas dyskusji, jakie prowadzono w komunie więziennej w Koronowie w 1937 r., Mazur rzekomo negował „kontrrewolucyjny charakter trockizmu”. Ponadto miał popierać trockistów w trakcie działalności na Ukrainie Sowieckiej w latach dwudziestych. W lipcu 1945 zwolniono go przedterminowo z łagru na skutek interwencji Bieruta. W ocenie byłych działaczy PPR i PZPR Mazur został w dużym stopniu złamany psychicznie przez tortury, jakich doznał na Łubiance i w Workucie. Jednocześnie był traktowany jako człowiek Moskwy, słabo związany z Polską.