Niezidentyfikowany trafił do łagru pod Workutą, a po odkryciu jego prawdziwej tożsamości do więzienia NKWD na Łubiance. Po tym, jak został zwolniony w sierpniu 1941, podjął służbę w Armii Polskiej w ZSRR jako dowódca 6 Dywizji Piechoty „Lwów”.

16 marca 1943 został zastępcą dowódcy Armii Polskiej na Wschodzie, generała dywizji Władysława Andersa. Obowiązki zastępcy dowódcy armii łączył z funkcją dowódcy Jednostek Wojskowych na Środkowym Wschodzie, a od sierpnia 1944 – dowódcy III Korpusu Polskiego. Generał Sikorski w trakcie swojej ostatniej podróży do oddziałów polskich na Bliskim Wschodzie zakończonej śmiercią w Gibraltarze rozważał odwołanie Tokarzewskiego z pełnionych funkcji i przeniesienie go do Londynu w związku z jego opozycją wobec polityki Sikorskiego. Od grudnia 1944 do sierpnia 1946 pozostawał w dyspozycji Ministra Obrony Narodowej, zajmując się „sprawami specjalnymi”.