Przez blisko trzy dziesięciolecia koncertował po USA, Europie i Afryce, występując m.in. z takimi gwiazdami, jak Jimi Hendrix, Jim Morrison, Bob Moses, Larry Coryell, Charlie Haden i „Paul Motian Quintet”. Od 1989 roku mieszkał w Wiedniu, gdzie jego oryginalna muzyka cieszyła się dużą popularnością. Po wykryciu białaczki powrócił na leczenie do Portland, lecz zmarł krótko potem, mając 50 lat, podczas przygotowań do nagrania albumu Remembrance.

Muzykę Peppera określano często jako nowatorską i egzotyczną, ale także prostą i zrozumiałą dla szerokich kręgów słuchaczy. Jako przecierający nowe szlaki artysta i człowiek sukcesu, stał się wzorem dla wielu młodych muzyków jazzowych i tubylczych Amerykanów. W 1999 roku Jim Pepper otrzymał pośmiertnie Nagrodę za Całokształt Osiągnięć Muzycznych (ang. Lifetime Musical Achievement Award) od organizacji First Americans in the Arts (FAITA), a w roku 2000, podczas 7. ceremonii wręczenia dorocznych nagród NAMA (Muzycznych Nagród Tubylczych Amerykanów, ang. Native American Music Awards), został wprowadzony do Panteonu Sławy NAMA. W 2005 Leroy Vinnegar Jazz Institute i Oregon Cultural Heritage Commission wybrały Peppera na Jazzowego Muzyka Roku podczas Festiwalu Jazzowego w Portland (ang. Portland Jazz Festival).