Gdy zakończył naukę, wyjechał do Chicago. Dołączył do big-bandu Milta Larkina, w którym grał na gitarze i aranżował repertuar. Pracował w nim od 1939 do 1942 razem z takimi muzykami, jak saksofoniści Arnett Cobb, Eddie „Cleanhead” Vinson i Illinois Jacquet. Nazywano go „Dzikim Billem” („Wid Bill”). Prywatnie był człowiekiem bardzo spokojnym, cichym i łagodnym. Na scenie jednak zmieniał się w wulkan energii. Zapewne jeden z tych powodów, lub oba, spowodowały nadanie mu ww. przydomka. W 1943 jako gitarzysta i aranżer otrzymał angaż w orkiestrze pianisty Earla „Fathy” Hinesa. W 1945 już jako pianista został członkiem jazzowo–rhythmandbluesowej grupy Louisa Jordana Tympany Five. Był także głównym aranżerem zespołu, w znaczącym stopniu przyczyniając się do jego ówczesnych sukcesów. Pozostawał w nim do 1949.

W 1950 rozpoczął karierę solową jako organista. Instrument zamówiłem u producenta w 1945 – wspominał później – ale musiałem czekać prawie dwa lata, żeby go dostać. Kosztował mnie 2290 dolarów i było to absolutne ryzyko, gdyż zarabiałem wtedy 175 dolarów tygodniowo. Kiedy zacząłem grać solo, honorarium spadło do 45.. w 1951 założył The Bill Davis Trio, w którego skład weszli także: perkusista Chris Columbus i leworęczny gitarzysta Bill Jennings.