W kilkadziesiąt lat po osiągnięciu maksymalnych rozmiarów zaczęły się dla Asyrii poważne kłopoty wywołane najprawdopodobniej niemożnością zapanowania nad tak ogromnym obszarem i wycieńczeniem państwa ciągłymi wojnami.
W roku 652 p.n.e. brat ówczesnego króla Asyrii Aszurbanipala sprzymierzył się z wrogami Asyrii (m.in. państwem Elam) i opanował Babilonię, której był królem, chcąc przejąć władzę w całym imperium. Rebelia skończyła się klęską, a Babilon został ponownie zniszczony. Jeszcze około roku 646 p.n.e. Asyria zniszczyła państwo Elam, ale gdy zmarł król Aszurbanipal (ok. 627 p.n.e.), budowane przez ponad 200 lat mocarstwo zaczęło się rozpadać. Trzy lata po śmierci Aszurbanipala Babilon zrzucił jarzmo asyryjskie i powstało państwo nowobabilońskie rządzone przez chaldejskiego króla Nabopolassara.