W tym czasie zaczął komponować. Jego utwory premierowo wykonywał m.in. kwintet Horace’a Silvera, z którym jeździł w trasy i nagrywał.
W 1960 założył zespół wraz pianistą Cedarem Waltonem, późniejszym długoletnim współpracownikiem i nagrał z nim kilka dobrze przyjętych płyt. W 1964 dołączył do sekstetu kontrabasisty Charlesa Mingusa, którym grał także Eric Dolphy. Nagrał z nim kilka płyt koncertowych oraz odbył tournée po Europie. W 1967 w ramach tasy koncertowej, zorganizowanej przez Departamentu Stanu, wystąpił z zespołem Radndy’ego Westona w wielu krajach Afryki. W 1969 na krótko zamieszkał z żoną, Shirley, w Belgii i często koncertował w Paryżu.
W 1970 powrócił do kraju i podpisał umowę na realizację trzech albumów z wytwórnią Strata East, której właścicielami byli muzycy: trębacz Charles Tolliver i pianista Stanley Cowell. Na ostatniej z nich, nagranej w 1974 Drink Plenty Water..., znalazły się utwory z kwestiami mówionymi przez aktora Davida Smyrla, oraz śpiewane przez Jordana i jego szesnastoletnią wówczas córkę – Donnę Jordan Harris.