W lutym 1932, po krytyce przeprowadzonej w ZSRR kolektywizacji rolnictwa, został pozbawiony obywatelstwa radzieckiego.
W 1933, po dojściu do władzy NSDAP w Niemczech, emigrował do Paryża, wywożąc ze sobą archiwa Socjaldemokratycznej Partii Niemiec, które przekazał do Międzynarodowego Instytutu Historii Społecznej w Amsterdamie (pracował w jego oddziale w Paryżu). Między lutym a sierpniem 1936, działając z ramienia kierownictwa działających jeszcze mienszewików, prowadził rozmowy z Nikołajem Bucharinem w sprawie sprzedaży do ZSRR archiwum Karola Marksa (ostatecznie zakończone fiaskiem). Był również w kontakcie z Lwem Siedowem, synem Lwa Trockiego, zaś z samym Trockim rozmawiał w związku z jego pracą nad Historią rewolucji rosyjskiej. Informacje, jakie uzyskał od Bucharina nt. relacji panujących w kierownictwie WKP(b) i walki o władzę w ZSRR opublikował następnie w artykułach, w tym najbardziej znanym: List starego bolszewikaSzczegółowa relacja Bucharina przekazana Nikołajewskiemu podczas ostatniego pobytu Bucharina poza granicami ZSRR. (1936), który przez wiele lat pozostawał i pozostaje do dziś ważnym źródłem opisującym genezę i wydarzenia polityczne u progu Wielkiej Czystki.