W 1969 stworzyli zespół The Allman Brothers Band, której nadali nazwę od swojego nazwiska (pol. Zespół braci Allmanów). Dołączyli do nich: gitarzysta Dickey Betts, basista Barry Oakley i perkusista Butch Trucks. W pierwszych latach istnienia wydali w tym składzie dwa albumy: The Allman Brothers Band (1969) i Idlewild South (1970), które zostały docenione przez krytyków. Dziennikarz magazynu „Rolling Stone” George Kimball opisał grupę jako „najlepszy rockandrollowy zespół jaki powstał w tym kraju w ciągu ostatnich pięciu lat”. Przełomowym momentem w ich karierze był koncert, który dali w Fillmore East w Nowym Jorku. Występ, zarejestrowany i wydany na płycie pt. At Fillmore East (1971), ukazał zespół jako jedną z najlepszych rockowych grup koncertowych. Muzycy podczas koncertów, wprowadzając typowe dla jazzu elementy improwizacji, rozwijali swoje krótkie studyjne utwory w długie, niekiedy sięgające 40 minut, improwizowane solówki instrumentalne oraz jamy.