Jego zainteresowanie Afryką sprawiło, że w 1961 po raz pierwszy udał się na ten kontynent, uczestnicząc w amerykańskim programie wymiany kulturalnej z Nigerią. W Lagos dał szereg koncertów oraz wykładów. Ponownie odwiedził Nigerię w 1963. W 1967 w ramach tournée koncertowego, zorganizowanego przez Departamentu Stanu, wystąpił ze swoim zespołem w czternastu krajach Czarnego Lądu. W następnym roku osiadł w Maroku – najpierw mieszkał w Rabacie, a potem w Tangerze. W 1969 otworzył tam African Rhythms Club. W Maroku nawiązał współpracę z muzykami berberyjskimi i Gnawa. Później stale wykorzystywał elementy muzyki afrykańskiej w swojej twórczości.
W 1972 powrócił na Brooklyn i wkrótce ruszył w trasę, koncertując z różnymi swoimi zespołami w Stanach Zjednoczonych i za granicą. Latem w 1975 wystąpił na festiwalu jazzowym w Tabarce w Tunezji. Na instrumentach perkusyjnych grał z nim jego syn – Azzedin Niles. Dwa lata później wziął udział w Drugim Światowym Czarnym i Afrykańskim Festiwalu Sztuki i Kultury (The Second World Black and African Festival of Arts and Culture – FESTAC). Impreza odbyła się w Lagos i uczestniczyli w niej również tacy artyści, jak Osibisa, Stevie Wonder, Miriam Makeba, Bembeya Jazz, Louis Moholo, Dudu Pukwana, Donald Byrd oraz Sun Ra.