Podczas kilkumiesięcznych rządów Jazida III pozostawał gubernatorem Mezopotamii. Jego siedzibą było wówczas Harran. We wrześniu 744 roku, gdy Jazid został zabity, nie uznał panowania brata dotychczasowego kalifa, Ibrahima ibn al-Walida. Przekroczył wraz ze swoją armią Eufrat i rozpoczął marsz na Damaszek. Początkowo miał prawdopodobnie na celu wyniesienie na tron przetrzymywanych w niewoli synów Al-Walida ibn Jazida. W szybkim tempie zdobył północną Syrię wraz z miastem Hims oraz pokonał Sulajmana ibn Hiszama w bitwie na drodze z Baalbek do Damaszku. Wówczas Ibrahim zbiegł do Palmyry, wcześniej rozkazując zamordować synów Al-Walida.
Rządy w kalifacie thumb|Dirhemy bite za rządów Marwana II Po wkroczeniu do Damaszku został obwołany kalifem. W grudniu 744 roku odbyła się baja, zaś Sulajman ibn Hiszam zaakceptował jego władzę. Na początku 745 roku powrócił na krótki czas do Harran. Wkrótce musiał jednak przybyć z powrotem do Syrii, gdzie wybuchły trzy powstania: w Damaszku, Hims i Palestynie. Przywódcą trzeciego z nich był Thabit ibn Nu'aym. Marwan na początku 745 roku zdobył Hims, następnie pokonał siły Jazida ibn Chalida al-Kasriego pod Damaszkiem, wreszcie zwyciężył Thabita pod Tyberiadą.