Po rozpoczęciu ofensywy przez wojska austro-węgierskie i niemieckie w maju 1915, oddział dowodzony przez „Śmigłego” brał udział w walkach pod Konarami. Zdaniem Piłsudskiego radził sobie doskonale, realizując powierzone mu zadania: 3 czerwca 1915 został mianowany podpułkownikiem. Jesienią tego roku wojska niemieckie i austro-węgierskie, ścigając wycofujących się na północ Rosjan, rozpoczęły tzw. kampanię wołyńską. Z powodu konfliktu, jaki wywiązał się pomiędzy Piłsudskim a dowództwem Legionów, Rydz „Śmigły” objął dowództwo nad częścią I Brygady, stacjonującą pomiędzy Trojanówką a Kostiuchnówką. Po ponownym objęciu dowództwa przez Piłsudskiego, I Brygada trafiła do Legionowa, gdzie spędziła zimę 1915/1916. Po rozpoczęciu tzw. ofensywy Brusiłowa w lipcu 1916, I i III Brygada zostały zmuszone do odwrotu pod Kostiuchnówką. Polacy byli stopniowo wycofywani i przesuwani na kolejne miejsca stacjonowania. Ostatecznie trafili do Baranowicz. W tym czasie zaostrzył się konflikt pomiędzy Piłsudskim a Komendą Legionów. Austriacy nie zgadzali się na spolszczenie dowództwa Polskiego Korpusu Posiłkowego (na który przemianowano Legiony). Wobec tego Piłsudski złożył dymisję. Podobnie postąpił Rydz, prosząc o zwolnienie ze służby w Korpusie i przeniesienie do armii austriackiej.