W skład KSW oprócz Janajewa wchodzili m.in. Walentin Pawłow, Boriss Pugo, szef KGB Władimir Kriuczkow oraz minister obrony Dmitrij Jazow. KSW objął kontrolą radio i telewizję, zakazał wydawania większości gazet i organizowania demonstracji, ogłosił godzinę policyjną i wysłał czołgi do Moskwy. Rebeliantom nie udało się aresztować Jelcyna, który zaapelował o strajk generalny i przywrócenie Gorbaczowa na stanowisko prezydenta. W Moskwie doszło do masowych manifestacji, wojsko opowiedziało się za Jelcynem. Ze względu na brak poparcia Rosjan i wojska oraz presję zagraniczną pucz upadł. 22 sierpnia oddziały puczystów wycofano z Moskwy a Gorbaczow wrócił do Moskwy. Podczas puczu zginęło 15 osób.
Po puczu Gorbaczow początkowo głosił, że należy przeprowadzić tylko minimalne zmiany w państwie. Pod presją Jelcyna i opinii publicznej prezydent ZSRR został zmuszony do przeprowadzenia zdecydowanych zmian w rządzie. 24 sierpnia 1991 roku Gorbaczow ogłosił rezygnację z pełnienia funkcji sekretarza generalnego KPZR (zastąpił go Wołodymyr Iwaszko), a Komitetowi Centralnemu nakazał samorozwiązanie.