Kariera polityczna W 1897 bez powodzenia próbował dostać się do parlamentu kolonialnego. Po powstaniu Związku Australijskiego w 1901 został wybrany w skład pierwszej kadencji federalnej Izby Reprezentantów, gdzie zasiadł w ławach Australijskiej Partii Pracy (ALP). Był ministrem poczty w gabinecie Watsona (1904), a następnie ministrem spraw wewnętrznych w pierwszym gabinecie Fishera. W 1913 utracił na krótko mandat parlamentarny z powodu likwidacji swego okręgu wyborczego, lecz jeszcze w tym samym roku został ponownie wybrany do Izby z innego okręgu.

W latach 1914-16 był ministrem spraw zagranicznych. Gdy w 1916 w ALP doszło do rozłamu, wbrew stanowisku premiera Hughesa pozostał w partii, co kosztowało go utratę stanowiska w rządzie. W latach 1917-19 pozostawał poza parlamentem. Kiedy w 1920 zmarł irlandzki działacz niepodległościowy Terence MacSwiney, który wcześniej przez 74 dni prowadził strajk głodowy w brytyjskim więzieniu, Mahon zareagował niezwykle ostrym atakiem na Wielką Brytanię w australijskim parlamencie. Oskarżył Londyn m.in. o "krwawy despotyzm". Australia była wówczas dominium brytyjskim, a w społeczeństwie zdecydowanie dominowały silne nastroje probrytyjskie, dlatego jego wystąpienie wywołało powszechne oburzenie.