Po powrocie do kraju rozpoczął pracę w Bostonie w swingowej orkiestrze pianisty Sabby’ego Lewisa. Jego oryginalna gra, na którą miały wpływ instrumentalne dokonania Colemana Hawkinsa i Bena Webstera, zwróciła uwagę Counta Basiego, który w 1946 zatrudnił go w swoim big-bandzie, przyjmując na miejsce Illinois Jacqueta. Kiedy spadająca popularność dużych orkiestr swingowych zmusiła Basiego do zmniejszenia składu zespołu, w 1949 został zwolniony. Jeszcze w tym samym roku zaangażował go do swojego big-bandu trębacz bebopowy Dizzy Gillespie. Szybko odnalazł się w stylistycznie nowym środowisku i został czołowym solistą sekcji saksofonów. Mimo nowoczesnego i modnego charakteru, wobec kłopotów finansowych w 1950 została rozwiązana również orkiestra Gillespiego.
Jesienią ww. roku w Nowym Jorku, gdy – jak sam powiedział, „miał ostatnie siedem dolarów w kieszeni” – natknął się po drodze do klubu Birdland na Duke’a Ellingtona. Znając jego dokonania, słynny bandlider zaprosił go do swojego biura i kilka dni później został przyjęty do orkiestry. Pozostał w niej do końca życia. Jedynie w 1954 przez trzy tygodnie grał w zespole puzonisty Tommy’ego Dorseya.