Na krótko dołączył do frakcji zwolenników Lwa Trockiego (trockizm), opowiadających się za demokracją wewnątrzpartyjną, a tym samym znajdując się w opozycji wobec Józefa Stalina.
W 1922 roku Chruszczow poznał i poślubił swoją drugą żonę, Marusię, której nazwisko panieńskie nie jest znane. Szybko się rozstali. Chruszczow pomógł jednak byłej żonie w późniejszych latach, zwłaszcza gdy córka Marusi poważnie zachorowała. Wkrótce po tym związku poznał Ninę Pietrowną Kucharczuk. Nina była dobrze wykształconą działaczką partii z rodziny ukraińskich chłopów. Mieszkali ze sobą do końca życia, lecz pobrali się oficjalnie dopiero w 1965 roku. Mieli razem trójkę dzieci: córkę Radę, urodzoną w 1929 roku, syna Siergieja Chruszczowa w 1935 i córkę Elenę w 1937. Poza tym miał z pierwszego małżeństwa córkę Julię i syna Leonida, którego córkę Julię adoptowałSimon Sebag Montefiore, Stalin. Dwór czerwonego cara, Wydawnictwo Magnum, Warszawa 2014..
W połowie 1925 roku został mianowany sekretarzem partii w raikomie Petrowo-Marińsk w pobliżu miasta Stalino, a pod koniec roku został wybrany delegatem bez prawa głosowania na XIV Kongres Komunistycznej Partii ZSRR w Moskwie.
Protegowany Kaganowicza