(Hey, Let’s Twist!, 1961) z udziałem Zohry Lampert. W 1968 pod pseudonimem Joe Ritchie wydał solowy album Little Joe Sure Can Sing!. W latach 1970–1976 wspólnie z Frankiem Vincentem występował jako duet komediowy Vincent & Pesci. Ich występ łączył dwuaktowe wybryki inspirowane Abbottem i Costello z komedią obelg w stylu Dona Ricklesa.
Wkrótce został zaangażowany do roli Joe Salvino w kryminalnym dramacie sensacyjnym Pieniądze albo śmierć (The Death Collector, 1976) u boku Josepha Cortese. Przełomem okazała się kreacja Joeya La Motty, brata boksera Jake’a La Motty (w tej roli Robert De Niro) w sportowym dramacie biograficznym Martina Scorsese Wściekły Byk (1980), za którą otrzymał nagrodę BAFTA za najbardziej obiecujący debiut aktorski w głównej roli i został nominowany do Oscara.
W przebojowej komedii Kevin sam w domu (1990) i jej sequelu Kevin sam w Nowym Jorku (1992) z Macaulayem Culkinem w roli głównej zagrał postać rabusia Harry’ego Lime’a. Kolejne lata utrwaliły gwiazdorską pozycję aktora, który dzielił swój czas głównie między komedie i filmy gangsterskie: Chłopcy z ferajny (1990), JFK (1991), Mój kuzyn Vinny (1992), Kasyno (1995) i Irlandczyk (2019).