Po śmierci Lenina członek Biura Politycznego i główny ideolog partii. Był autorem licznych prac filozoficznych i ekonomicznych, wieszczących nieuchronny upadek kapitalizmu, a także tekstu Konstytucji, która weszła w życie w 1936. Popierał Stalina przeciwko Trockiemu, a następnie Zinowjewowi i Lwu Kamieniewowi. W 1928 wystąpił przeciwko przymusowej kolektywizacji, proponując ewolucyjne, stopniowe uspółdzielczanie. W efekcie, jego poglądy podzielane przez premiera Aleksieja Rykowa i lidera związków zawodowych Michaiła Tomskiego zostały nazwane „odchyleniem prawicowym”. W listopadzie 1929 usunięty z Biura Politycznego. W latach 1929–1932 członek prezydium WSNCh, po jej likwidacji od 1932 członek kolegium komisariatu przemysłu ciężkiego. W latach 1934–1936 redaktor naczelny „Izwiestii”.
Po rozpoczęciu terroru „wielkiej czystki” we wrześniu 1936 po pokazowym procesie Zinowjewa i Kamieniewa ogłoszono o śledztwie w sprawie jego spiskowej działalności, później śledztwo zawieszono, wobec oporu umiarkowanej frakcji w WKP(b) – z Sergo Ordżonikidze na czele – w kwestii eskalacji terroru.