Dwa tygodnie po tych wydarzeniach, prawdopodobnie z inicjatywy dowodzącego 10 Armią Klimienta Woroszyłowa, Żłoba został odwołany do Moskwy, gdzie zaproponowano mu przejęcie dowództwa nad zupełnie inną jednostką, działającą na Ukrainie, a po odmowie - zakazano powrotu do Stalowej Dywizji i skierowano na przymusowy urlop. Prawdopodobną przyczyną tej decyzji Trockiego była niepewność co do tego, czy charyzmatyczny Żłoba nie zechce, razem z oddanymi mu żołnierzami, zmienić frontu. Żłobę skierowano do Astrachania, gdzie w grudniu 1918 r. został na krótko aresztowany przez miejscową Czekę. Po zwolnieniu umożliwiono mu powrót do czynnej walki po stronie czerwonych. Od 1919 r. dowodził najpierw oddziałem partyzanckim operującym w rejonie Astrachania, a następnie brygadą kawalerii w 1 Korpusie Kawalerii pod dowództwem Borisa Dumienki, z którą wkroczył do Nowoczerkaska w styczniu 1920 r. W lutym 1920 r. przejął dowództwo Korpusu, przyczyniając się bezpośrednio do odsunięcia Dumienki i jego aresztowania. 20 czerwca tego samego roku poniósł druzgocącą klęskę w starciu z oddziałami Wrangla w rejonie Wierchniego Tokmaku oraz niemieckich osad Lindenau i Heidelberg;