Od dzieciństwa Holly był nazywany przez swoją rodzinę „Buddy”. Był najmłodszym z trójki rodzeństwa. Dwaj starsi bracia, Larry i Travis nauczyli go grać na wielu instrumentach, w tym na gitarze, banjo i na gitarze hawajskiej. W wieku 5 lat wygrał w konkursie talentów dla dzieci, śpiewając popularną w tamtym okresie piosenkę „Have You Ever Gone Sailing (Down the River of Memories)”. W 1949 zarejestrował swoje pierwsze nagranie „My Two Timin' Woman” Hanka Snowa, na rejestratorze pożyczonym przez znajomego, który pracował w sklepie muzycznym. Nagranie przetrwało do dziś.
Kariera W 1952 razem ze szkolnym kolegą, Bobem Montgomerym założył duet „Buddy and Bob”. Początkowo wykonywali piosenki w stylu bluegrass, występowali w lokalnych klubach i w konkursach talentów. Zachowały się 3 nagrania, które duet zrealizował w latach 1952–1953, covery „I'll just pretend”, „Take these shackles from my heart” i „Footprints In the Snow” (Montgomery – wokal prowadzący/gitara, Holley – śpiew/gitara/mandolina). 10 listopada 1953 Buddy uczestniczył w nagraniu dwóch utworów Jacka Neala (ur.