Po rezygnacji premiera Hollyoake'a w 1971, ubiegał się o schedę po nim w partii i gabinecie, ale przegrał z Jackiem Marshallem. W latach 1971–1972 był wicepremierem u jego boku. W 1972 narodowcy po przegranych wyborach przeszli do opozycji, a dwa lata później Marshall zrezygnował z przewodzenia im. Muldoon został wybrany na nowego przywódcę i objął zarazem stanowisko lidera opozycji. W 1975 poprowadził partię do wyborczego zwycięstwa pod hasłem „Nowa Zelandia – taka jakiej chcesz” i został premierem. thumb|200px|left|Płyta nagrobna Muldoona w Auckland – ostatni wers głosi: „Kochał swój kraj i jego naród” Muldoon był wielkim zwolennikiem idei państwa opiekuńczego i starał się, aby Nowa Zelandia zachowała i rozwijała ten model. Nie było to łatwe, bo gospodarkę prześladowała wysoka inflacja oraz skutki kryzysu naftowego. Dodatkowym ciosem stało się przystąpienie Wielkiej Brytanii do EWG, co położyło kres preferencyjnemu dostępowi nowozelandzkich produktów do tego kluczowego rynku eksportowego. W polityce zagranicznej Nowa Zelandia pod jego rządami zdecydowanie poparła Londyn w wojnie o Falklandy.