Zmarł śmiercią samobójczą w swoim służbowym gabinecie na Moskiewskim Kremlu. Tuż przed śmiercią napisał rezygnację z mandatu deputowanego Zjazdu Deputowanych Ludowych ZSRR oraz mowę pożegnalną do parlamentarzystów, w której określił swoją postawę w czasie puczu „świadomym złamaniem przysięgi żołnierskiej”, do czego jednak czuł się moralnie zobowiązany wobec postępującej „destrukcji”. Pozostawił też po sobie kilka listów pożegnalnych. Został pochowany na Cmentarzu Trojekurowskim w Moskwie.

Awanse pułkownik – 8 grudnia 1956 generał major wojsk pancernych – 13 kwietnia 1964 generał porucznik wojsk pancernych – 21 lutego 1969 generał pułkownik – 30 października 1974 generał armii – 23 kwietnia 1979 marszałek Związku Radzieckiego – 25 marca 1983