Na początku lat 70. osiadł w Filadelfii, dokąd Sun Ra przeprowadził swoją formację. Arkestra pozostała głównym polem jego działania przez całą karierę. Koncertował z nią w wielu krajach świata, m.in. kilkakrotnie odwiedził Polskę. Był jednym z jej głównych solistów, równie biegły w ekspresyjnych partiach free jazzowych, jak stylowej grze be- i post-bopowej. Kiedy w 1993 Sun Ra umarł, przejął po nim prowadzenie orkiestry.
Zmarł w szpitalu Germantown w Filadelfii. Przyczyną śmierci były komplikacje wywołane rozedmą płuc. Miał 63 lata.
Wybrana dyskografia Jako lider lub współlider 1957 Blowing in from Chicago – Cliff Jordan and John Gilmore (Blue Note) 1975 Paul Bley–John Gilmore–Paul Motian–Gary Peacock – Turning Point (Improvising Artists Inc.)