W 1929 powrócił na Manhattan i University Players Guild oraz zagrał w spektaklach: Gra życia i śmierci (The Game of Life and Death) oraz Diabeł i ser (Devil and the Cheese).
W 1932 udał się do Hollywood, aby kręcić filmy. W 1935 zadebiutował w kinie rolą Dana Harrowa w komedii Victora Fleminga The Farmer Takes a Wife (Rolnik bierze żonę) z Janet Gaynor, a rok wcześniej występował w tej samej roli w przedstawieniu na Broadwayu. W tym czasie poznał Jamesa Stewarta, z którym się przyjaźnił. Popularność i uznanie krytyków przyniosła mu główna rola Toma Joada w dramacie Johna Forda Grona gniewu (The Grapes of Wrath, 1940), ekranizacji powieści Johna Steinbecka o tym samym tytule; za występ w filmie był nominowany do zdobycia Oscara dla najlepszego aktora pierwszoplanowego.
W 1943 wstąpił do amerykańskiej marynarki wojennej, służąc jako kwatermistrz trzeciej klasy na pokładzie niszczyciela USS „Satterlee” na Pacyfiku, aż do 1946.