Po ukończeniu szkoły średniej (była to Cass Technical High School) w 1942, grał w popularnym w Detroit „Club 666”, razem z saksofonistą altowym Tedem Bucknerem. Potem dołączył do zespołu 'Bama State Collegians Erskine’a Hawkinsa.
Kariera Kiedy Thompson zaczynał swoją karierę, najbardziej znanymi saksofonistami byli Coleman Hawkins, Lester Young czy Ben Webster. Ich więc muzyka miała na sposób grania młodego artysty największy wpływ. W sierpniu 1943 Thompson, już jako członek orkiestry Lionela Hamptona, wyjechał z Detroit w kilkumiesięczna trasę koncertową. Już wtedy zaczął pracować nad uzyskaniem własnego stylu i brzmienia. Po powrocie do Nowego Jorku grał w zespołach Dona Redmana i Lucky’ego Millindera. W nowojorskim klubie The Three Deuces grał z perkusistą Big Sidem Catlettem. Pierwsze nagranie płytowe Thompsona, z zespołem, który prowadził trębacz Oran „Hot Lips” Page, zarejestrowane zostało 8 marca 1944. Potem znalazł się u wokalisty i trębacza Billy’ego Eckstine’a. Jego grupa istniała krótko, ale Thompson miał okazję grać obok muzyków uznawanych za twórców bebopu, bo w zespole byli też Dexter Gordon, Miles Davis, Fats Navarro, Dizzy Gillespie, Charlie Parker i Art Blakey.