Stąd niewykluczone, że jego przeniesienie do Iraku w roku 694 było rezultatem skarg mieszkańców prowincji, chociaż bezpośrednią przyczyną była śmierć dotychczasowego namiestnika tego regionu, Biszra Ibn Marwana. Obejmując namiestnictwo Al-Hadżdżadż wygłosił w Al-Kufie słynną mowę, pełną pogróżek w stosunku do wrogów Umajjadów, która przeszła do historii arabskiej literatury. Irak był wówczas "najbardziej buntowniczą i najtrudniejszą do rządzenia prowincją", gdzie "rywalizacja międzyplemienna spotkała się z wojnami religijnymi". Pierwszym zadaniem Al-Hadżdżadża było przywrócenie dyscypliny w armii Iraku, której żołnierze, zamiast przebywać w obozie, rabowali okolicę. Nowy namiestnik ogłosił, że każdy żołnierz, który nie wróci na swój posterunek w ciągu trzech dni, zostanie skazany na śmierć, a jego mienie zostanie wystawione na rabunek. Okazało się to skuteczne. Najgroźniejszym przeciwnikiem władzy Umajjadów w Iraku byli wówczas azrakici, radykalny odłam charydżytów. Al-Hadżdżadż potwierdził dowództwo Al-Muhallaba, już wcześniej walczącego z azrakitami, nad operacjami przeciwko nim i niezwłocznie wysłał żołnierzy do walki. Al-Muhallab zadał azrakitom klęskę w roku 696, jednak w tym samym czasie Irakowi zagroził inny charydżycki przywódca, działający z Mosulu Szabib Ibn Jazid.