Poniżony przez chińskiego urzędnika za brak kontroli nad swoim ludem shanyu popełnił samobójstwo, a autorytet jego następców był coraz słabszy. Rebelię stłumiono w 143, ale shanyu byli uznawani przez coraz mniejszą liczbę swoich współplemieńców, nawet w regionie Ordosu. Xiongnu pozostali na północy zaczęli nazywać siebie Xianbei.
W 177 połączona armia Hanów i shanyu poniosła wielką klęskę w walce z Xianbei i Xiongnu ostatecznie rozpadli się na szereg niezależnych klanów, z których najważniejszym był Xiuchuge. W 188 podniósł on bunt i zabił shanyu Qiangqu. Jego syn Yufuluo (zm. 195) szukał poparcia u Hanów, jednak wraz ze śmiercią cesarza Linga (168–189) Chiny pogrążyły się w chaosie wojny domowej. Xiuchuge dopiero w 214 poddali się Cao Cao, na którego dworze przebywał syn Yufuluo, Huchuquan. Od tej pory kolejni shanyu przebywali na cesarskim dworze, oddzieleni od swoich ludzi, i stopniowo tracili nad nimi kontrolę. „Tytuł stał się pustą nazwą”. W 216 Cao Cao podzielił Xiongnu na 5 grup, każda z wodzem na czele, i osiedlił je na terenie dzisiejszej prowincji Shanxi. Nadzór nad nimi sprawował chiński dowódca, jednak w okresie Zachodniej dynastii Jin (265–317) urząd ten sprawował już przedstawiciel Xiongnu.