II wojna światowa Aleksandr Wasilewski brał udział w planowaniu wojny zimowej. Od maja 1940 roku był zastępcą szefa wydziału operacyjnego Sztabu Generalnego, zaś od sierpnia 1941 roku szefem wydziału operacyjnego i I zastępcą szefa Sztabu Generalnego. Koordynował obronę rejonu Moskwy pod koniec 1941 roku i późniejszą kontrofensywę zimową. W maju 1942 roku na polecenie Józefa Stalina opracował plan, na podstawie którego przeprowadzono nieudaną kontrofensywę pod Charkowem. W czerwcu 1942 roku objął stanowisko szefa Sztabu Generalnego, a w październiku także stanowisko zastępcy ludowego komisarza obrony ZSRR. We wrześniu 1942 roku, wspólnie z Gieorgijem Żukowem zaplanował zimową ofensywę, w wyniku której Armia Czerwona odniosła zwycięstwo w Stalingradzie, odzyskała Kaukaz i odrzuciła daleko na zachód wojska niemieckie.
Efektem zwycięstwa pod Stalingradem była nominacja 18 stycznia 1943 roku na stopień generała armii oraz 16 lutego 1943 roku na marszałka. Było to wydarzenie bezprecedensowe, gdyż oba awanse dzieliło zaledwie 29 dni.