Po ataku Niemiec na ZSRR wraz z dywizją został skierowany z Kraju Ałtajskiego na Front Zachodni w składzie 24 Armii, pod Jelnię, gdzie od 16 lipca 1941 brał udział w walkach, wykazując talent dowódczy. W sierpniu 1941 objął dowództwo 85 pułku piechoty 100 Dywizji Piechoty 24 Armii, uczestniczył w operacji jelnińskiej, za bohaterstwo dowodzony przez niego pułk przemianowano na 2 gwardyjski pułk piechoty, a jego samego odznaczono Orderem Lenina. Później na czele pułku w składzie 21 Armii brał udział w walkach na Froncie Briańskim i Południowo-Zachodnim, a w grudniu 1941 w bitwie pod Moskwą, zadając wrogowi duże straty.
7 marca 1942 został ranny. Po wyleczeniu, w kwietniu 1942 mianowano go dowódcą 8 Dywizji Wojsk NKWD na Froncie Południowo-Zachodnim w rejonie Woroneża; w czerwcu 1942 tę dywizję przemianowano na 63 Dywizję Piechoty. Jako dowódca tej dywizji walczył na Froncie Stalingradzkim i Dońskim, w tym w bitwie pod Stalingradem, zadając Niemcom duże straty i biorąc wielu jeńców oraz zdobywając wiele sprzętu i uzbrojenia. Za zasługi bojowe dowodzona przez niego dywizja 27 listopada 1942 została przemianowana na 52 Gwardyjską Dywizję Piechoty, do lutego 1943 brała udział w likwidacji okrążonej niemieckiej 6 Armii w Stalingradzie. 21 stycznia 1943 otrzymał stopień generała majora.