Początkowo przez niedługi czas grał w orkiestrach Chicka Webba i Fletchera Hendersona, aby w lutym 1929 zastąpić Jamesa Mileya w big-bandzie Duke’a Ellingtona.
Zyskał renomę, grając do 1940 z zespołem Ellingtona w Cotton Clubie w Harlemie. W tym czasie nagrywał zarówno z orkiestrą szefa, jak pod własnym nazwiskiem. Jako sideman brał także udział w sesjach z Lionelem Hamptonem, Teddym Wilsonem i Billie Holiday. Był znany ze swojej wirtuozerii oraz gry w ellingtonowskim stylu „jungle” (np. w utworze Echoes of the Jungle) i mistrzowskiego posługiwania się tłumikiem. Dla niego Ellington skomponował utwór Concerto for Cootie, który po dopisaniu tekstu otrzymał tytuł: Do Nothing till You Hear from Me i z czasem stał się standardem. Występował jako solista również w wielu innych kompozycjach Ellingtona m.in. Echoes of Harlem, Harlem Air Shaft i utworze religijnym The Shepherd Who Watches Over the Night Flock.