Brał udział w wydawaniu nielegalnego pisma i prowadził koło samokształceniowe dla polskich robotników kolejowych.

Po wybuchu rewolucji lutowej w Rosji był twórcą Zjednoczenia Socjalistycznego Polskiego na Ukrainie, grupującego członków wszystkich polskich organizacji socjalistycznych na Ukrainie (PPS, PPS-Lewica, Socjaldemokracja Królestwa Polskiego i Litwy). Redagował pismo Zjednoczenia Jedność Robotnicza. Na tle haseł niepodległościowych oraz taktyki partii rosyjskich we wrześniu 1917 w Zjednoczeniu doszło do rozłamu. Po jego rozpadzie Zaremba stanął na czele Okręgowego Komitetu Robotniczego (OKR) PPS Ukrainy lewobrzeżnej i wszedł w skład Centralnego Komitetu Wykonawczego PPS w Rosji. W lipcu 1918 powrócił do Polski.

Działalność w II Rzeczypospolitej We wrześniu 1918 wziął udział w konspiracyjnym XIV Zjeździe PPS w Warszawie. Reprezentował tam lewicowe skrzydło, przeciwstawiając się koalicji PPS z partiami prawicy i centrum. Został – jako najmłodszy wiekiem – wybrany do Centralnego Komitetu Robotniczego PPS. 11 listopada 1918 był współorganizatorem manifestacji na rzecz rządu Daszyńskiego i członkiem delegacji z Tadeuszem Szturm de Sztremem, która chciała wręczyć Józefowi Piłsudskiemu czerwony sztandar.