Po wycofaniu się z życia politycznego Thaddeusa Stevensa Garfield, wraz z Jamesem Blaine’m, objął przywództwo w partii. W 1877 roku Garfield zasiadał w komisji, która weryfikowała wybór Rutherforda Hayesa na prezydenta.
Na początku 1880 roku wygrał wybory do Senatu, jednak nigdy w nim nie zasiadł, bowiem 8 czerwca został kandydatem na prezydenta z ramienia Partii Republikańskiej. Na początku konwencji najpoważniejszymi kandydatami byli Ulysses Grant (kandydat „Stalwarts” – konserwatywnego skrzydła) oraz James Blaine (kandydat „Half-Breeds” – umiarkowanego skrzydła). Po 30 głosowaniach żaden z kandydatów nie uzyskał wymaganej większości, a plasujący się na trzeciej pozycji John Sherman przekazał swoje głosy na Garfielda. Ten odmówił kandydowania, czym zaskarbił sobie poparcie większości delegatów i w 36. głosowaniu uzyskał 399 głosów. Kandydatem na wiceprezydenta został Chester Arthur. W głosowaniu powszechnym Garfield wygrał różnicą około 9 tysięcy głosów. Obaj kandydaci zwyciężyli w 19 stanach, jednak Garfield uzyskał 214 głosów w Kolegium Elektorów, podczas gdy jego rywal z Partii Demokratycznej, Winfield Hancock, uzyskał ich 115.