Abd al-Rahman I miał 20 lat kiedy jego rodzina, rządzący kalifatem Umajjadów, w tym Al-Andalus, została obalona przez dynastię Abbasydów. Młody książę zdołał uciec z Damaszku z kilkoma innymi członkami swojej rodziny, a schronienia udzielił im nieprzychylny Abbasydom Abd al-Rahman ibn Habib al-Fihri, kolejny członek rodziny Fihri rządzący Ifrikijją. Jednakże po jakimś czasie gubernator zwrócił się przeciwko nim i Abd al-Rahman był zmuszony uciekać po raz drugi, tym razem w kierunku Ceuty, gdzie dotarł w 755 roku. Udało mu się nawiązać porozumienie z syryjskimi żołnierzami (jund) oraz Jemeńczykami, południowoarabskimi potomkowie Qahtana, którzy stanowili armię i administrację Umajjadów w VII i VIII wieku. Napotkał za to opór lokalnego plemienia Berberów, które postanowiło schwytać go i uwięzić, żądając zapłaty za opuszczenie portu. W końcu umajjadzki książę zdołał wyruszyć do Hiszpanii, mając nadzieję, że uda mu się przejąć władzę wykorzystując napiętą sytuację pomiędzy walczącymi o dominację Kalbidami i Jemeńczykami. Abd al-Rahman opuścił Maroko, lądując prawdopodobnie w Almuñécar w 755.