W latach 1942−1943 wraz z kolegą z orkiestry – trębaczem i wokalistą Billym Eckstinem sprowadzał do formacji Hinesa młodych modernistów.
W 1944 przeniósł się do Nowego Jorku. Pisał aranżacje dla orkiestr Woody’ego Hermana, Buddy’ego Richa, Boyda Raeburna i Billy’ego Eckstine’a. Był także aktywną postacią wczesnej ery bebopu, dokonując z saksofonistą Colemanem Hawkinsem pierwszych nagrań nowej muzyki w studiu wytwórni Apollo. Ponadto występował w klubie Onyx przy 57 West 52nd Street z współtwórcami nowego stylu – trębaczem Dizzym Gillespiem, kontrabasistą Oscarem Petifordem i perkusistą Maxem Roachem. Nakłonił Gillespiego, żeby zapisał swoje pomysły melodyczne na trąbkę i saksofon grające unisono – brzmienie to stało się charakterystyczne dla małych zespołów bebopowych.
W latach 50. prowadził własne grupy oraz jeździł w trasy koncertowe, m.in. z zespołem Benny’eego Goodmana, z którym dotarł nawet do Azji. W 1958 założył septet i nagrał płytę Blues à la Mode. Dwa lata później zrealizował dobrze przyjęty album Budd Johnson and the Four Brass Giants z udziałem czterech odmiennych stylistycznie trębaczy: Clarka Terry’ego, Harry’ „Sweetsa” Edisona, Nata Adderleya i Raya Nance’a. Natomiast w 1961 wydał jedną z najlepszych swoich płyt – Let’s Swing. Ponadto w latach 60.