W ciągu 3 miesięcy otwarto 25 biur werbunkowych na obszarze całej Ukrainy. W sierpniu w miejscowości Millerowo rozpoczęto formować sztab armii i 2 Dywizję Piechoty pod dowództwem gen. lejt. Herberta G. Dżonsona. Pod koniec sierpnia został utworzony szwadron 1 pułku konnego płk. Jakobsona we wsi Czetrkowo i batalion piechoty w Boguczarze. W zupełnym zaczątku były próby sformowania Korpusu Woroneskiego i Korpusu Saratowskiego. Formowanie Armii Południowej zakończyło się ostatecznie porażką, gdyż jej liczebność doszła jedynie do ok. 9 tys. ludzi (w tym część niezdolnych do walki), zgrupowanych w rejonie Czertkowo-Kantemirowka. Ochotnicy woleli wstępować do Armii Ochotniczej, niż otwarcie proniemieckiej Armii Południowej.
W rezultacie Niemcy wycofali dla niej swoje wsparcie. W takiej sytuacji utworzone oddziały Armii Południowej w październiku 1918 r. przejął ataman Wojska Dońskiego gen. Piotr N. Krasnow, tworząc z nich Korpus Woroneski Armii Dońskiej. Na przełomie października i listopada jego dowódcą został gen. lejt. Nikołaj I. Iwanow. Generał P. N. Krasnow zamierzał uczynić z niej sprzymierzoną z Armią Dońską rosyjską formację zbrojną przeciwstawną wobec Armii Ochotniczej. Dowództwo Armii Południowej otrzymało prawo stacjonowania, działania i administrowania na zajętych przez Kozaków dońskich obszarach Rosji.