Pierwszym ważnym zespołem w karierze McCoya był legendarny Jazztet (1959) prowadzony przez Benny’ego Golsona i Arta Farmera. Wiedząc o przyszłych planach współpracy z Coltrane’em uprzedził Golsona, że nie będzie mógł grać zbyt długo w ich zespole. Nagrali płytę „Meet the Jazztet” (1960). W 1960 John Coltrane ostatecznie opuścił kwintet Milesa Davisa a Tyner opuścił Arta Farmera. Do 1965 grał z Coltrane’em biorąc udział we wszystkich najważniejszych sesjach nagraniowych. Nagrali między innymi takie albumy jak „Africa/Brass”, „Ole Coltrane”, „Ballads”, „Coltrane”, „Crescent”, „A Love Supreme”, „Transition”, „Kulu Sé Mama”, „Infinity” czy „Ascension”https://www.jazzdisco.org/ – Dyskografia McCoy Tynera..
W 1961, wytwórnia Impulse!, podpisała kontrakt z 23-letnim McCoyem Tynerem. Pianista oczarował ich grą na płycie zespołu Jazztet, a także w kwartecie Coltrane’a, który w tym właśnie czasie przeszedł z wytwórni Atlantic do Impulse!. Kontrakt obligował go do dwóch autorskich płyt rocznie. Pierwsza, „Inception” (styczeń 1962), sprzedała się tylko w 800 egzemplarzach, jednak pod koniec 4-letniego kontraktu sprzedaż jego płyt sięgała nawet do 10 tysięcy. Drugą płytą była „Reaching Fourth” (listopad 1962). Jej tytuł dotyczy, charakterystycznych dla stylu McCoya, kwartowych akordów.