W 1951 przeprowadził się do Nowego Jorku i rozpoczął pracę w The Savoy Ballroom w zespole trębacza Cootie’ego Williamsa. W 1952 – trwała wówczas wojna koreańska – został powołany do U.S. Army. Przez dwa lata grał w orkiestrze wojskowej. Po zakończeniu służby w 1954 i powrocie do Nowego Jorku szybko zyskał renomę nowego talentu perkusji jazzowej i otrzymywał wiele propozycji pracy.
W połowie lat 50. występował i nagrywał z takimi wykonawcami jak wokalistki Dinah Washington i Dorothy Ashby, saksofoniści Johnny Hodges, Eddie „Cleanhead” Vinson, Ernie Wilkins, Charlie Rouse i Paul Quinichette, pianiści Bud Powell, Billy Taylor, Lennie Tristano i Toshiko Akiyoshi, kontrabasista Oscar Pettiford i multinstrumentalista Gil Mellé.
W latach 1959–1966 był członkiem tria pianisty Oscara Petersona, jednego z najsłynniejszych tego rodzaju zespołów w historii jazzu. Dokonał z nim licznych nagrań, które złożyły się na kilkadziesiąt płyt. Po odejściu z tria nagrał jako lider swój pierwszy album Out of the Storm. W 1967 dołączył do zespołu towarzyszącego „Królowej Jazzu” Elli Fitzgerald podczas koncertów na całym świecie.