Po ataku Niemiec na ZSRR wszedł w skład Stawki Najwyższego Naczelnego Dowództwa (1941–1945), przeniesiony też do służby frontowej i mianowany dowódcą Frontu Leningradzkiego (1941), Rezerwowego (1941) i Zachodniego (1941–1942), głównodowodzącym Głównego Dowództwa Wojsk Kierunku Zachodniego (1942), zastępcą Naczelnego Dowódcy Sił Zbrojnych (1942–1945) i I zastępcą ludowego komisarza obrony ZSRR (1942–1945), dowódcą 1 Frontu Ukraińskiego (1944) i 1 Białoruskiego (1944–1945). Po zwycięstwie dowódca Grupy Wojsk Radzieckich w Niemczech (1945–1946) oraz komendant Radzieckiej Administracji Wojskowej w Niemczech (1945–1946) i członek Sojuszniczej Rady Kontroli Niemiec (1945), później wyznaczony na naczelnego dowódcę wojsk lądowych (1946) oraz wiceministra sił zbrojnych ZSRR (1946), wkrótce potem odwołany przez Stalina, obawiającego się gigantycznej popularności, jaką Żukow zdobył podczas wojny. Zdegradowany do dowódcy Odeskiego (1946–1948), później Uralskiego Okręgu Wojskowego (1948–1953). Pozycję odzyskał po śmierci Stalina, został wiceministrem obrony (1953–1955), wspomógł też Chruszczowa w likwidacji Berii oraz przejęciu władzy. W 1955 roku zastąpił Bułganina jako minister obrony ZSRR, został też członkiem Biura Politycznego KPZR (1956–1957).