Kariera W 1973 roku przeniósł się do Los Angeles. Swoją karierę rozpoczął pisząc scenariusze do sitcomów: NBC Sanford i syn (Sanford and Son, 1972-77) z Reddem Foxxem i muzyką Quincy Jonesa i ABC Welcome Back, Kotter (1975-79) z udziałem Rona Palillo i Johna Travolty. Z powodzeniem występował jako komik i stał się częstym gościem programu NBC The Tonight Show u boku Johnny’ego Carsona. Od 1986 roku prowadził swoją własną audycję Showtime It's Garry Shandling's Show, a którą został nominowany cztery razy do nagrody Emmy i dwa razy odebrał nagrodę CableACE (1988 i 1991).
Jednak drugi jego autorski program HBO The Larry Sanders Show z Jeffreyem Tamborem i Ripem Tornem stał się na tyle popularny, że otrzymał 18 nominacji, a w 1998 roku zdobył Primetime Emmy wraz ze współscenarzystą Peterem Tolanem. Podczas swoich trzydziestu lat kariery aktorskiej otrzymał nagrodę BAFTA (1999), był nominowany 19 razy do Primetime Emmy Award i dwa razy do Złotego Globu. 15 stycznia 1997 roku podczas 1. ceremonii wręczenia Satelitów i 22 lutego 1998 roku podczas 1. ceremonii wręczenia Satelitów był nominowany w kategorii Najlepszy aktor w serialu komediowym.
10 września 2000 prowadził 52.