W 1919 r. (podczas interwencji radzieckiej na Ukrainie) wszedł do Rady Rewolucyjno-Wojskowej nowo utworzonego Frontu Ukraińskiego Armii Czerwonej i równocześnie do Rady Rewolucyjno-Wojskowej czerwonej 14 Armii. W marcu 1919 r., a więc po zajęciu Kijowa przez Armię Czerwoną, został przewodniczącym kijowskiego gubernialnego komitetu wykonawczego i pełnił tę funkcję przez miesiąc. W końcu 1919 r. wrócił do Moskwy, powracając równocześnie do pracy partyjnej w moskiewskim komitecie partyjnym, pełnił również funkcję członka Zarządu Głównego Przedsiębiorstw Tekstylnych. Brał udział w tłumieniu buntu marynarzy w Kronsztadzie, następnie od 1921 do 1922 r. należał do Rady Rewolucyjno-Wojskowej Północnokaukaskiego Okręgu Wojskowego i równocześnie do tejże rady w 1 Armii Konnej.
Dalsza działalność w ZSRR Od 1922 r. szef Oddziału Agitacyjno-Propagandowego KC RKP(b). W 1923 r. popierał Lwa Trockiego w konflikcie ze Stalinem, zaliczał się do wewnątrzpartyjnej opozycji, jednak wkrótce opowiedział się po stronie tego drugiego. W 1924 r. objął dzięki pomocy Stalina stanowisko szefa Zarządu Politycznego Armii Czerwonej, był też członkiem Wojskowej Rady Rewolucyjnej ZSRR oraz redaktorem naczelnym „Krasnoj Zwiezdy”. Jednocześnie (kwiecień-grudzień 1925) był sekretarzem KC RKP(b), a od 1924 do 1937 r.