George’a nie interesowała księgowość i w 1914 zrezygnował z nauki. Zatrudnił się jako „song plugger”, czyli muzyk prezentujący piosenki na fortepianie, co spotkało się ze zdecydowanym sprzeciwem ojca. Praca ta polegała na graniu nowych piosenek potencjalnym nabywcom wydawnictw nutowych. Zarabiał na tym 15 dolarów tygodniowo. Już jako nastolatek napisał kilka piosenek. Jego pracodawcy uznali, że warto postawić na młodego autora i wydali jego ragtime’owy utwór fortepianowy Rialto Ripples. George jednak postanowił związać się z teatrem. Zaczął akompaniować na fortepianie w mniejszych przedstawieniach na Broadwayu. Gershwin zwrócił po jakimś czasie na siebie uwagę bardziej wpływowych producentów teatralnych.
Sława Gershwina zaczęła się w 1920, gdy miał 22 lata. Wtedy to piosenkarz Al Jolson nagrał Swanee, które zostało napisane rok wcześniej. Nagranie sprzedało się w milionach egzemplarzy i przyniosło Gershwinowi fortunę. Gershwin nadal komponował, a nawet pojechał do Anglii ze swoim przedstawieniem The Rainbow Revue. Pasją George’a było kolekcjonowanie dzieł sztuki współczesnej, w szczególności zaś prac Picassa i Chagalla. Sam też lubił malować.