Po śmierci Józefa Stalina w marcu 1953, Malenkow zastąpił go na stanowisku premiera ZSRR. Przez kolejne kilka dni po 5 marca, tj. do czasu wyboru nowego kierownictwa, jako drugi po Stalinie w hierarchii partyjnej, pełnił też obowiązki generalnego sekretarza partii komunistycznej. Z funkcji sekretarza zrezygnował 14 marca po oskarżeniach o próbę zbytniej konsolidacji władzy. Nie ulegało wątpliwości, że w nowej sytuacji politycznej, pełniąc również funkcję sekretarza KC KPZR (jednego z pięciu równoprawnych – przewodniczący im Nikita Chruszczow początkowo miał uprawnienia wyłącznie w zakresie koordynacji ich pracy), jest faktycznym przywódcą państwa, ale jego wpływy polityczne systematycznie malały na rzecz Chruszczowa, zwłaszcza po aresztowaniu i straceniu Ławrientija Berii, do czego sam się przyczynił zawiązując sojusz z Chruszczowem.
8 lutego 1955 został zmuszony do złożenia samokrytyki, a plenum KC zwolniło go z funkcji premiera i przesunęło na funkcję wicepremiera i ministra energetyki. Na stanowisku szefa rządu zastąpił go marszałek Nikołaj Bułganin.