Po ataku na Związek Radziecki w czerwcu 1941 roku został szefem obrony przeciwlotniczej Frontu Południowo-Zachodniego. 27 września 1941 roku został szefem sztabu 21 Armii, gdy armia ta znalazła się w okrążeniu w tzw. kotle kijowskim organizował jej wyjście z okrążenia. Następnie pełniąc to stanowisko brał udział w obronie Charkowa i w 1942 roku w operacji charkowskiej. 5 czerwca 1942 roku został dowódcą 21 Armii, która weszła w skład Frontu Stalingradzkiego, a od września Frontu Dońskiego. Dowodząc tą armią wziął udział w bitwie pod Woroneżem i bitwie stalingradzkiej, w której broniła lewego brzegu Donu.
1 listopada 1942 roku został szefem sztabu 5 Armii Pancernej w składzie Frontu Południowo-Zachodniego. Pełniąc to stanowisko uczestniczył w kontrofensywie pod Stalingradem.
20 kwietnia 1943 roku został szefem sztabu 12 Armii powstałej na bazie 5 Armii Pancernej, a 19 maja 1943 roku został jej dowódcą. Początkowo armia znajdowała się w odwodzie Frontu Południowo-Zachodniego, a we wrześniu 1943 roku została skierowana na front. Początkowo zajmowała pozycje obronne w rejonie Barwinkowa, a w operacji donbaskiej, w czasie której wyzwoliły szereg miast Donbasu dotarła do Dniepru i po jego sforsowaniu wyzwoliła miasto Zaporoże.