W styczniu 1941 roku został I zastępcą generalnego inspektora piechoty Armii Czerwonej.
Po ataku Niemiec na ZSRR został dowódcą 21 Armii, dowodząc nią w walkach obronnych na kierunku mohylewskim Frontu Zachodniego, a następnie pod Smoleńskiem. 7 sierpnia 1941 roku został dowódcą Frontu Centralnego, którym dowodził do momentu jego rozwiązania 25 sierpnia 1941 roku. Został wtedy zastępcą dowódcy Frontu Briańskiego, w skład którego weszły wojska rozwiązanego Frontu Centralnego.
W dniach 1-17 października 1941 był organizatorem i dowódcą odtwarzanej 10 Armii, następnie 33 Armii. Wziął udział w bitwie pod Moskwą, a następnie w kontrofensywie.
Dowodzona przez niego armia wzięła udział w operacji rżewsko-wiaziemskiej, w trakcie której część wojsk 33 Armii oraz 1 Gwardyjski Korpus Kawalerii i 4 Korpus Powietrznodesantowy znalazły się w okrążeniu na tyłach wroga. Gen. Jefriemow został dowódcą tych oddziałów i dowodził nimi w czasie walk na tyłach wroga.
19 kwietnia 1942 roku w czasie przebijania się sztabu 33 Armii przez pozycje niemieckie we wsi Żary został ciężko ranny, aby nie dostać się do niewoli niemieckiej popełnił samobójstwo.
Ciało znalezione przez Niemców, początkowo pochowane zostało na cmentarzu we wsi Słobodka.