Początki kariery politycznej Po powstaniu zjednoczonej Australii w 1901, został wybrany do parlamentu federalnego (od tego czasu uzyskiwał reelekcję w każdych wyborach aż do swej śmierci). Sprawował urząd ministra spraw zagranicznych w pierwszym rządzie Chrisa Watsona, a następnie prokuratora generalnego we wszystkich trzech gabinetach pod wodzą Andrew Fishera. Jego ambicją było stanąć na czele ALP, jednak kolegów partyjnych zrażał do niego trudny, wybuchowy charakter, na który wpływ miała także jego dyspepsja.
Premier Australii Ostatecznie dopiął swego w październiku 1915, kiedy zastąpił Fishera jako szef partii i rządu. Był gorącym zwolennikiem udziału Australii w I wojnie światowej. W 1916 wystąpił z inicjatywą wprowadzenia powszechnego poboru wojskowego, połączonego z wysyłaniem rekrutów na front do Europy. Wywołało to bardzo głębokie podziały w społeczeństwie i w partii. Na jego niekorzyść przemawiało przegrane referendum w tej sprawie. Ostatecznie w listopadzie 1916 został usunięty z ALP. Nie stracił jednak władzy, bowiem szybko porozumiał się z liderem liberałów, byłym premierem Josephem Cookiem, i wspólnie utworzyli nowe ugrupowanie, Nacjonalistyczną Partię Australii (NPA), która w wyborach w 1917 zapewniła sobie parlamentarną większość.