W łonie partii zajmował się przede wszystkim pracą przy wydawaniu pisma, ale także zapewnianiem funduszy na dalszą działalność, co wiązało się z szeregiem wyjazdów.
Od maja do sierpnia 1896 Piłsudski przebywał w Londynie, jako przedstawiciel CKR PPS na IV Kongresie II Międzynarodówki Socjalistycznej (obok niego w reprezentacji Polski pod zaborami zasiadali także Ignacy Daszyński, Ignacy Mościcki, Bolesław Jędrzejowski i Aleksander Dębski). Wraz z nimi zaplanował przegłosowanie wniosku o poparcie przez delegatów walki niepodległościowej Polaków. Rezolucję poparli m.in. Karl Liebknecht i Karl Kautsky, ale przeciwna była Róża Luksemburg. Ostatecznie zmieniono tekst dokumentu na mniej zdecydowany, co wywołało sprzeciw Piłsudskiego.
Działalność wydawnicza i ślub mały|upright|Józef Piłsudski w 1899 r. Po powrocie do kraju skupił się na pracy wydawniczej, m.in. wydając w 1898 wykradzioną przez PPS tajną broszurę autorstwa warszawskiego generała-gubernatora, Aleksandra Imeretyńskiego, którą sam przetłumaczył i dodał do niej komentarze. Był to znaczny sukces, zważywszy, że memoriał zawierał opis metod wykorzystywanych przez służby rosyjskie. Ta akcja PPS była jednym z głównych powodów odwołania Imeretyńskiego przez cara.