Mrówkojadowate w przeszłości zaliczane były do rzędu Edentata, grupującego ssaki pozbawione zębów. Obejmował on także łuskowce i mrównika. Rozwój wiedzy zrewidował pogląd o bliskim pokrewieństwie tych trzech grup ssaków. Mrównika przeniesiono do odrębnego rzędu słupozębnych, łuskowce zaś podniesiono do rangi osobnego rzędu. Mrówkojady tworzą zaś wraz z leniwcami i pancernikami grupę szczerbaków, Xenarthra, nazwanych tak od nietypowych połączeń stawowych w kręgosłupie. Szczerbaki, uznawane przez część badaczy za jedną z bardziej bazalnych grup ssaków łożyskowych, rozwinęły się w Ameryce Południowej, zanim kontynent ten połączył się przesmykiem z Ameryką Północną. Po wymieraniu kredowym przeszły radiację, dzieląc się na kilka grup. Dwie najważniejsze grupy to pancernikowce, obejmująca pancernikowate i Chlamyphoridae, oraz włochacze, Pilosa, nazwane tak z powodu bujnego futra. Włochacze dzielą się dalej na dwie odrębne grupy w randze podrzędów. Jednym z nich są liściożery, obejmujące leniwce, drugą giętkojęzykowe, czyli Vermilingua, co oznacza dosłownie robakojęzykowe.