Na forum Warszawskiej Rady Delegatów Robotniczych sprzeciwiał się wojnie z Rosją Sowiecką i domagał się poparcia strajku w fabrykach wojskowych.

Działał w kierownictwie polskiego Bundu. W okresie międzywojennym był czołowym działaczem lewego skrzydła Bundu. Początkowo opowiadał się przeciwko przystąpieniu Bundu do Kominternu. Od 1934 był zwolennikiem współpracy z Komunistyczną Partią Polski. Był członkiem kilku Rad Miejskich Warszawy, zaś w latach 1927–1936 był ławnikiem Magistratu. Był współredaktorem i publicystą „Fołks-Cajtung”.

Po agresji ZSRR na Polskę we wrześniu 1939 znalazł się na terytorium okupacji sowieckiej. Został aresztowany przez NKWD w Kowlu 26 września 1939 i był tam przetrzymywany, następnie 22 listopada został przeniesiony do więzienia w Łucku, skąd 9 grudnia przewieziono go do więzienia śledczego NKWD na Butyrkach. 20 lipca 1941 został skazany na karę śmierci przez Kolegium Wojskowe Sądu Najwyższego ZSRR. Wyrok został zmieniony uchwałą Plenum Sądu Najwyższego ZSRR z 22 lipca 1941 na 10 lat więzienia. Alter został uwolniony 13 września 1941 na mocy amnestii po zawarciu układu Sikorski-Majski, dzień wcześniej uwolniono Henryka Ehrlicha. Zaczął organizować Międzynarodowy Żydowski Komitet Antyfaszystowski. W tym czasie nawiązał współpracę ze Stanisławem Kotem, ambasadorem Polski w ZSRR.