Wyróżnił się wtedy w walkach o przełamanie linii Mannerheima, za co 7 kwietnia 1940 został nagrodzony tytułem Bohatera Związku Radzieckiego.
W momencie rozpoczęcia agresji Niemiec na ZSRR dowodził 21 korpusem zmechanizowanym, walczącym nad rzeką Dźwiną. Jednak już w sierpniu 1941 został naczelnikiem ds. formowania wojsk pancernych w dowództwie wojsk pancernych.
W październiku 1941 został na rozkaz Józefa Stalina dowódcą utworzonego 1. Samodzielnego Gwardyjskiego Korpusu Strzeleckiego, którym dowodził w czasie bitwy pod Moskwą. Za zasługi w bitwie został mianowany dowódcą 5 Armii, która zajmowała pozycję obronne w rejonie Możajska. Funkcję tę pełnił jednak bardzo krótko, gdyż został ranny.
Po wyleczeniu z ran w listopadzie 1941 został dowódcą 30 Armii, która wchodziła w skład Frontu Zachodniego. Dowodząc tą armią wziął udział w kontrofensywie pod Moskwą w grudniu 1941, gdzie wyróżniła się ona w walkach o likwidację wybrzuszenia pod Klinem. Następnie brał udział w bitwie pod Rżewem w 1942 roku oraz w kontrofensywie pod Rżewem latem 1942.
W listopadzie 1942 został dowódcą 1 Gwardyjskiej Armii, którą dowodził w czasie kontrofensywy pod Stalingradem. 5 grudnia 1942 został dowódcą 3 Gwardyjskiej Armii, która powstała z przemianowania 1 Gwardyjskiej Armii.