W 1956 rządzący już – zgodnie z wcześniejszymi ustaleniami – król Husajn mianował ar-Rifa’ia premierem Jordanii. Stało się to po kolejnej fali zamieszek, których uczestnicy sprzeciwiali się prozachodniej orientacji kraju i (ostatecznie zarzuconym) planom wstąpienia do Paktu Bagdadzkiego. Ar-Rifa’i był konserwatystą szczerze popierającym rządy Haszymitów. Na żądanie króla 1 marca 1956 usunął z kraju twórcę i dowódcę Legionu Arabskiego Johna Bagota Glubba i jego współpracowników. Stanowiło to początek arabizacji jordańskich sił zbrojnych, dowodzonych dotąd przez Brytyjczyków, i podniosło popularność Husajna w społeczeństwie. Ar-Rifa’i odszedł ze stanowiska 20 maja 1956. W kwietniu 1957 wszedł do rządu Ibrahima Haszima jako minister spraw zagranicznych. Rząd Haszima stłumił pronaserowską opozycję w Jordanii. Ar-Rifa’i, jeden z najważniejszych doradców króla, zachęcał go do podjęcia kroków na rzecz zawarcia unii iracko-jordańskiej. Związek dwóch krajów rządzonych przez Haszymitów miał stanowić przeciwwagę dla krajów arabskich rządzonych przez lewicę, zwłaszcza dla powstałej w 1958 Zjednoczonej Republiki Arabskiej łączącej Egipt i Syrię.