W 1922 został saksofonistą altowym w miejscowym zespole prowadzonym przez skrzypka George’a Morrisona, w którym grał tez Andy Kirk, saksofonista i kolejny przyszły bandlider.
W 1927, będąc nauczycielem muzyki w Manassa High School w Memphis, założył uczniowską grupę The Chickasaw Syncopators. Tym samym został pierwszym w tym mieście dyrygentem licealnego zespołu muzycznego. Gdy w 1929 grupa opuściła Memphis i rozpoczęła zarobkowanie na trasach koncertowych, jej nazwa została zmieniona na The Jimmie Lunceford Orchestra. Pierwszych nagrań dokonała w 1930. Po okresie występów objazdowych przyjęła w 1933 ofertę gry w słynnym, nowojorskim Cotton Clubie. Miała występować w rewii „Cotton Club Parade”, m.in. akompaniując gwieździe przedstawienia, śpiewaczce Adelaide Hall. W krótkim czasie The Jimmie Lunceford Orchestra zaczęła zyskiwać na popularności. Zespół różnił się od innych, słynnych wówczas big-bandów tym, że przedkładał grę zespołową nad solowe popisy instrumentalne. O jego stylu decydowały przede wszystkim oryginalne aranżacje Sya Olivera, który w orkiestrze grał na trąbce i śpiewał. Styl ten cechował rytm dwubeatowy przeciwstawny do standardowego, czteroczęściowego metrum swingowegoJoachim-Ernst Berendt, Od raga do rocka, wyd. PWM, 1979.