Kolejne dwa lata były pracowite. Na początek wystąpił Karmazynowym przypływie gdzie grał u boku Gene’a Hackmana i Denzela Washingtona. Następnie zagrał jeszcze z tymi aktorami w innych filmach; z Washingtonem w thrillerze W sieci zła w 1998 roku, a z Hackmanem w komedii Mexican w 2001 roku. W 1995 roku można go było zobaczyć jeszcze w filmie Dorwać małego.
W filmie Osiem milimetrów z 1999 roku wcielił się w postać Eddiego Poole, pobitego na śmierć przez Toma Wellesa (granego przez Nicolasa Cage’a). Inne charakterystyczne role to m.in. sprzedawcy w filmie Człowiek, którego nie było, wroga Roberta Redforda w Ostatnim bastionie oraz rola homoseksualnego mordercy w filmie Mexican.
Najbardziej rozpoznawaną rolą Gandolfiniego jest postać Tony’ego Soprano w serialu Rodzina Soprano, w której gra bossa mafii i ojca amerykańskiej rodziny. Dzięki roli w serialu otrzymał trzy nagrody Emmy dla najlepszego aktora.
Życie prywatne Gandolfini był żonaty z Marcy Wudarski, lecz rozwiódł się z nią w 2002 roku. Z tego związku miał syna (ur. 1999 r.). W 2008 ożenił się z Deborah Lin, z którą miał córkę (ur. w październiku 2012 r.).
W wolnym czasie lubił grać na trąbce i saksofonie.