Z tego powodu, po wyparciu bolszewików poszukiwała go polska żandarmeria wojskowa.
Wyjechał do Warszawy, gdzie wstąpił do Komunistycznej Partii Robotniczej Polski. Ta przerzuciła go do Kijowa, gdzie został sekretarzem Wydziału Ekonomicznego Gubernialnego Komitetu Komsomołu, a także sekretarzem gazety Młodzież Robotnicza. Następnie podjął studia w sekcji żydowskiej Komunistycznego Uniwersytetu Mniejszości Narodowych Zachodu w Moskwie. Była to uczelnia partyjna, kształcąca działaczy komunistycznych głównie z krajów sąsiadujących ze ZSRR. Po śmierci Włodzimierza Lenina w 1924 został delegowany do Humańskiego Komitetu Okręgowego Komsomołu. Organizował tam tzw. zaciąg leninowski do tej organizacji. W 1925 został przyjęty do Wszechzwiązkowej Komunistycznej Partii (bolszewików), a następnie przeniesiono go do Charkowa (gdzie pracował jako redaktor Młodej Gwardii), a następnie do Moskwy.