Podkreślał też, iż jako dziecko czuł się odrzucony przez matkę, dlatego w późniejszych latach nienawidził kobiet. Sharon Bailey zmarła 28 maja 1996 wskutek nowotworu.
Jako dziecko był wstydliwy i niechętny do kontaktu wzrokowego z innymi. Z rodziną chodził do kościoła kilka razy w tygodniu. Od najmłodszych lat szukał ukojenia w muzyce. Od piątego roku życia śpiewał w chórze kościelnym, a także występował z bratem i siostrą jako Bailey Trio. Dzięki występom w chórze nauczył się śpiewać różnymi głosami. W Lafayette Jefferson High School udzielał się w chórze szkolnym, a także grał na pianinie w kościele. W końcu dołączył jako wokalista do rockowego zespołu, który stworzył m.in. Jeffrey D. Isbell, później znany jako Izzy Stradlin. W młodości był fanem muzyki rockowych zespołów Aerosmith i Kiss, hardrockowej grupy Led Zeppelin, a także artystów popowych, w tym Eltona Johna, Billy’ego Joela i Todda Rundgrena oraz grup Queen i Electric Light Orchestra.