Szczególnym walorem Parku są gołoborza, czyli rumowiska skalne powstałe na stokach, w wyniku wietrzenia kambryjskich piaskowców kwarcytowych.
Rozpatrując położenie Gminy Bieliny na tle podziału regionalnego Polski wg Kondrackiego [Kondracki J., 2001], leży ona w obrębie następujących jednostek:
Prowincja: Wyżyna Małopolska Podprowincja: Wyżyna Środkowomałopolska Makroregion: Wyżyna Kielecka Mezoregion: Góry Świętokrzyskie
Podłoże obszaru budują skały paleozoiczne, rozciągające się między dwoma antyklinami: łuską Łysogór i siodłem Pasma Orłowińskiego. Wypiętrzenia te budują skały wieku kambryjskiego: Pasmo Łysogórskie – piaskowce kwarcytowe, szarogłazy, mułowce i iłowce, a Pasmo Orłowińskie – piaskowce kwarcytowe. W środkowej części Gminy piaskowce kwarcytowe dolnego dewonu budują wzniesienia Pasma Bielińskiego. Piaskowce i mułowce z wkładkami iłów i zlepieńców odsłaniają się na brzegu koryta Belnianki w Bielinach. Wapienie i łupki dewonu środkowego i górnego zalegają w obniżeniach synklinalnych. Środkiem Gminy, na kierunku NW-SE, biegnie antyklina Bielin, zbudowana z karbońskich iłołupków, szarogłazów i margli. Skały kambryjskie i dewońskie odsłaniają się na powierzchni terenu w licznych odkrywkach.