Następne 10 miesięcy Haller przebywał w szpitalu na rehabilitacji.
Wiosną 1916 wszedł w skład Rady Pułkowników, skupiającej dowódców jednostek legionowych, będącej w opozycji do pro-austriackiej Komendy Legionów. W lipcu otrzymał ponownie przydział i został dowódcą II Brygady Legionów Polskich. Po kryzysie przysięgowym w lipcu następnego (1917) roku (złożył przysięgę na wierność cesarzowi niemieckiemu Wilhelmowi II) dowodził II Brygadą, która weszła w skład podporządkowanego Austrii Polskiego Korpusu Posiłkowego.
Dywizja Strzelców Polskich
15 lutego 1918, protestując przeciwko postanowieniom traktatu brzeskiego, wraz z podległą mu II Brygadą Legionów Polskich i innymi oddziałami polskimi przebił się przez front austriacko-rosyjski pod Rarańczą i połączył się z polskimi formacjami w Rosji. Otrzymał przydział na dowódcę nowo sformowanej 5 Dywizji Strzelców Polskich, a od 28 marca 1918 dowodził jednostkami całego II Korpusu Polskiego na Ukrainie. 7 kwietnia 1918 otrzymał nominację na stopień generała.
Bitwa pod Kaniowem