Tworzenie II Korpusu Polskiego rozpoczęło się formalnie 20 grudnia 1917. Podstawę prawną stanowiło zezwolenie dowódcy wojsk Frontu Rumuńskiego, generała Dymitra Szczerbaczowa. Na stanowisko dowódcy powołany został generał Sylwester Stankiewicz. Korpus organizował się w Besarabii, głównie w Sorokach nad Dniestrem. Do marca 1918 w jego szeregach znalazło się ponad 4000 żołnierzy.
6 marca w skład II Korpusu weszła II Brygada Legionów Polskich. Jej wcielenie nastąpiło w obliczu poważnego zagrożenia ze strony armii austro-węgierskiej, która to od 28 lutego 1918 wznowiła działania ofensywne i ruszyła na Odessę. Korpus został zmuszony do przegrupowania się poza strefę okupacyjną wojsk austro-węgierskich.
Podczas marszu na wschód doszło do zmiany dowództwa. Generała Stankiewicza zastąpił pułkownik Józef Haller (ps. generał „Mazowiecki”). Podczas marszu na Ukrainę naddnieprzańską Haller musiał toczyć zaciekłe walki ze zrewoltowanym chłopstwem ukraińskim. 12 kwietnia 1918 wojska polskie zostały zatrzymane przez generała Aleksandra OsińskiegoGenerał Aleksander Osiński występował jako zwierzchnik Naczelnego Dowództwa Wojska Polskiego na Ukrainie powołanego przez Radę Regencyjną..