Początkowo był dowódcą IX Korpusu Piechoty (na czele którego latem 1941 miał dokonać desantu morskiego na wybrzeżu rumuńskim), następnie: zastępca dowódcy 51 Armii (czerwiec 1941 – styczeń 1942), zastępca dowódcy wojsk Krymu. Od grudnia 1941 do października 1942 dowódca 3 Armii i zastępca dowódcy Frontu Briańskiego do spraw formowania. Później dowodził 65 Armią w bitwach pod Stalingradem, Kurskiem, w bitwie o Dniepr, w operacjach na Białorusi i północnych ziemiach polskich, w tym w rejonie Serocka.
Uczestniczył w operacji pomorskiej, 6 marca 1945 dowodzone przez niego wojsko zdobyło Grudziądz po blisko dwumiesięcznym oblężeniu. 65 Armia, wchodząca w skład 2 Frontu Białoruskiego, zdobyła Szczecin 26 kwietnia 1945. Komendant wojenny Wałbrzycha i dowódca garnizonu Armii Czerwonej w tym mieście. Walczył w operacji berlińskiej.
Po wojnie Batow pełnił szereg funkcji w centralnych instytucjach Ministerstwa Obrony ZSRR. W latach 1955–1962 dowodził kolejno Przykarpackim i Nadbałtyckim Okręgiem Wojskowym. W latach 1962–1965 był szefem Sztabu Zjednoczonych Sił Zbrojnych Państw Stron Układu Warszawskiego. Wieloletni deputowany do Rady Najwyższej ZSRR, 1. i 2. oraz od 4. do 6. kadencji. 23 listopada 1965 w Grupie Inspektorów Sił Zbrojnych ZSRR.