Na skutek rewolucji bolszewickiej do Harbinu napłynęła fala uchodźców i miasto przeistoczyło się w największą poza Rosją enklawę Białych. W tym czasie istniała w mieście także duża społeczność żydowska, złożona z Żydów rosyjskich i niemieckich, którzy uciekli na Daleki Wschód przed prześladowaniami w Europie. Wśród nich znaleźli się m.in. rodzice premiera Izraela, Ehuda OlmertaArtykuł w Renmin Ribao, 30.03.2006..

Po utworzeniu marionetkowego państwa Mandżukuo, 4 lutego 1932 do Harbinu wmaszerowały japońskie wojska. W 1935 ZSRR sprzedał Kolej Wschodniochińską Japończykom, co przyspieszyło odpływ mniejszości narodowych z miasta. Po wybuchu II wojny światowej (w Azji zaczęła się w 1937 od najazdu Japonii na Chiny) japońska armia utworzyła we wsi Pingfang pod Harbinem obóz koncentracyjny, tzw. Oddział 731, w którym na jeńcach prowadzono okrutne eksperymenty medyczne. Liczba jego ofiar pozostaje dyskusyjna, bo Japończycy zdołali zatrzeć ślady, a zbrodniarze z Oddziału 731 – podobnie jak niektórzy naziści w Europie – uniknęli odpowiedzialności przed Trybunałem Tokijskim, dzięki przekazaniu wyników badań Amerykanom. Według różnych źródeł liczba ofiar obozu waha się od kilkuset do 200 tys. osób.