W latach 1900–1903 dowodził 9 Dywizją Piechoty, po czym został asystentem dowódcy Syberyjskiego Okręgu Wojskowego. Na tym stanowisku pozostawał do mobilizacji 1904 r. Wyznaczony na dowódce 4 Korpusu Syberyjskiego, składającego się z 2 i 3 Rezerwowych Brygad Piechoty rozwiniętych do dywizji. Po dyslokacji Korpusu na teatr działań wojennych zostało mu przydzielone zadanie obserwacji wybrzeża od Liao He do Xiongyuecheng i ochrony dróg od Xiuyan do Haichengu i Gaizhou oraz dróg do I Korpusu Syberyjskiego. Po przegranej bitwie pod Wafangou I i IV Korpusy Syberyjskie były wycofane pod Dashiqiao. Po wyznaczeniu gen Aleksego Kuropatkina na dowódcę Oddziału Wschodniego Zarubajew został dowódcą Oddziału Południowego. 23 i 24 lipca armia gen. Yasukata Oku zaatakowała Oddział Południowy. Natarcie zostało odparte, jednak wydany rozkaz przez dowódcę Armii Mandżurskiej zmuszał wojska Zarubajewa do wycofania w rejon Haichengu. W bitwie pod Liaoyang Zarubajew dowodził rejonem umocnionym. Odparł ataki Japończyków, jednak wycofał swoje wojska nad Taizi He, zgodnie z rozkazem dowódcy armii.
W bitwie nad Sha He IV Korpus Syberyjski był początkowo w rezerwie Armii i przesuwał się za centrum walk, jednak po nieudanym manewrze gen. W.