Kariera W wieku 16 lat przybył do Hollywood i zmienił nazwisko na John Saxon. W 1954 po raz pierwszy trafił na duży ekran w dwóch filmach George’a Cukora: komedii romantycznej To może się zdarzyć każdemu (It Should Happen to You) z Judy Holliday i dramacie muzycznym Narodziny gwiazdy (A Star Is Born) z Judy Garland. W kryminalnym filmie noir Na swobodzie (Running Wild, 1955) pojawił się jako Vince Pomeroy. Rok później (1956) rola gracza baseballowego w filmie Moment nieuwagi (The Unguarded Moment) przyniosła mu sławę i uznanie. Za rolę Billa Tremaine w komedii Blake’a Edwardsa This Happy Feeling (1958) został uhonorowany nagrodą Złotego Globu w kategorii „najbardziej obiecujący nowy aktor”.
Przez kolejne kilka lat występował w całej serii lekkich filmów przeznaczonych dla młodego widza, w których partnerowały mu popularne ówcześnie gwiazdki: Sandra Dee, Luana Patten czy Debbie Reynolds. Jeden z nich trafił także na polskie ekrany – komedia Mr. Hobbs na urlopie (Mr. Hobbs Takes a Vacation, 1962) z Jamesem Stewartem. Swoją pierwszą dramatyczną rolę szeregowego Raymonda Endore’a zagrał w dramacie wojennym Wojenne polowanie (War Hunt, 1962) u boku Roberta Redforda. Jako Chuy Medina w westernie Sidneya J.