Na igrzyskach olimpijskich w 1904 w Saint Louis obronił tytuł mistrzowski w rzucie młotem (przed Johnem DeWittem i Ralphem Rose, również z USA), ponadto zdobył srebrny medal w rzucie 56-funtowym ciężarem (za Étienne’em Desmarteau z Kanady, a przed Jamesem Mitchelem ze Stanów Zjednoczonych), a w rzucie dyskiem zajął 4. miejsce. Po raz trzeci został mistrzem w rzucie młotem na igrzyskach olimpijskich w 1908 w Londynie. Poprawił wówczas swój rekord życiowy (a także nieoficjalny rekord świata) na 51,92 m. Wyprzedził Amerykanina Matta McGratha i Kanadyjczyka Cona Walsha. W rzucie dyskiem zajął 9. miejsce, a w przeciąganiu liny drużyna USA z jego udziałem (a także m.in. Ralpha Rose’a i Matta McGratha) zajęła 5. miejsce.
Flanagan 14-krotnie w latach 1895–1909 poprawiał najlepszy na świecie wynik w rzucie młotem (do 56,18 m). Był mistrzem USA (AAU) w rzucie młotem w latach 1897-1999, 1901, 1902, 1906 i 1907, a w rzucie 56-funtowym ciężarem w 1899, 1901, 1904 i 1906–1908. 24 lipca 1909 po raz ostatni poprawił rekord świata rzutem na odległość 56,18 m. Liczył wówczas 41 lat.
W 1910 wystąpił z policji nowojorskiej, ponieważ rozwiązano jego oddział.