Początek kariery W 1930 roku, po skończeniu szkoły wyjechał do Waszyngtonu. Był puzonistą w Hot Chocolates Orchestra Bookera Colemana, który nadał mu przydomek Trummy. Latem 1931 roku grał w Asbury Park za dwa dolary za wieczór. W 1933 roku udał się do Chicago z orkiestrą Earla Hinesa, grając w klubie Grand Terrace w godzinach od 21 do 4 za 40 $ tygodniowo.
Rozwój kariery W 1936 wyjechał do Nowego Jorku, gdzie przyłączył się do orkiestry Jimmiego Lunerforda, tam też spotkał Idę Fitzpatrick, która rozmawiała z nim o Biblii. W tamtym okresie zawierał umowy na pojedyncze występy, a umowy zawierały klauzulę, że grupie nie wolno dawać koncertów w promieniu 600 km od miejsca, w którym ostatnio występowała, co doprowadzało do bardzo dalekich podróży. W Nowym Jorku występował ze śpiewaczką Billie Holiday. Napisał dla niej piosenkę „Travellin Light”, którą nagrała z orkiestrą Paula Whitemana (nie znając przepisów dotyczących tantiem, oboje otrzymali za nią tylko po 75 USD). W końcu lat 30. XX wieku, wystąpił w kilku filmach, np. Blues in the Night. Na przełomie lat 30. i 40. XX w. skomponował wiele przebojów, spośród których największy rozgłos zyskały: „T'Ain't What Cha Do, It's the Way That Cha Do It” oraz „What Cha Know, Joe?”. Jego odmienna technika gry na puzonie sprawiła, że piosenki „Ain't She Sweet” i „Margie” z 1938 r.