Niektórzy z nich uciekli do Kwadów i Gotów, lecz większość w liczbie 300 000 szukała schronienia na rzymskim terytorium, gdzie dano im ziemie w Mezji i Panonii.thumb|Jazygowie w IV wieku n.e.
W latach 355 i 357 Sarmaci „Limigantes” podbili i splądrowali górną Mezję i dolną Panonię, lecz pokonał ich cesarz Konstancjusz w 358. „Ardagarantes” zostali wówczas osadzeni przez Rzymian w swoim dawnym kraju, a ich rodzimy książę Zizais został wyniesiony na tron. W następnym jednak roku, niezadowoleni z nowego miejsca zamieszkania, poprosili oni o zezwolenie na osiedlenie się w granicach Cesarstwa, później zaś usiłowali pomścić utratę terytorium w zdradzieckiej napaści na cesarza. Cesarzowi udało się zbiec, a Rzymianie wybili całe plemię.
Sarmackie najazdy na Panonię notowano znów w latach 364, 374 i 378; odparł je cesarz Teodozjusz. W roku 384 Teodozjusz, razem z synem Arkadiuszem i współregentem Walentynianem II, odniósł zwycięstwo nad Sarmatami.
Za koniec tego okresu uważa się zwykle mniej więcej rok 430, to jest rok zajęcia terenów dzisiejszych Węgier przez Hunów, lecz w źródłach pisanych Sarmaci na Węgrzech wspominani byli jeszcze prawie 50 lat później.