Po przybyciu do USA rozpoczął szkolenie w Gold’s Gym w Los Angeles, pod okiem Joe Weidera. Poznał w tym czasie dwóch zawodowych wrestlerów Rica Drasina i Billy’ego Grahama. Zajmujące się prawem imigracyjnym przedsiębiorstwo Siskind & Susser stwierdziło (na przełomie lat 60. i 70.), że Schwarzenegger mógł być nielegalnym imigrantem z powodu naruszenia warunków wizy. W 2002 gazeta „LA Weekly” napisała, że Schwarzenegger jest najsławniejszym imigrantem w Ameryce, który „pokonał silny austriacki akcent i niespodziewanie wyszedł ze środowiska kulturystyki, by stać się w latach 90. największą gwiazdą filmu na świecie”.
Kariera kulturysty mały|Arnold Schwarzenegger w szczytowej formie (Mr Olympia 1974) thumb|Arnold Schwarzenegger i Karyn Marshall na Weightlifting Hall of Fame w Columbia, Ohio (2011) Arnold Schwarzenegger rozpoczął karierę jako kulturysta, wielokrotnie zdobywając nagrody w prestiżowych konkursach: Mr. World, Mr. Universe, Mr. International, Mr. Europe, oraz siedmiokrotnie tytuł Mr. Olympia. Jego muskulatura (wzrost 188 cm, waga 115 kg, obwód bicepsa 56 cm, obwód klatki piersiowej 155 cm, obwód w pasie 86 cm) w opinii wielu osób zapewniła mu tytuł „kulturysty wszech czasów” (Mr. Everything).