Budowa geologiczna PKOG zbudowany jest głównie ze skał mezozoicznych. Zasadnicza część utworów pochodzi z dna morza, które istniało na tym terenie w okresie jurajskim, czyli 180 milionów lat temu. Początek skałom wapiennym dały szczątki organizmów zbudowane głównie z węglanu wapnia, które osadzały się na dnie zbiornika. W trzeciorzędzie ciepły i wilgotny klimat sprzyjał zjawiskom krasowym. W czwartorzędzie w obniżeniach pomiędzy wapiennymi wzgórzami, wody wypływające spod topniejącego lądolodu skandynawskiego naniosły olbrzymie ilości piasków, na których wykształciły się gleby bielicowe porośnięte przez bór sosnowy.
Najbardziej charakterystycznym elementem krajobrazu PKOG są pasma skalne urozmaicone licznymi ostańcami wapiennymi. Wyróżnia się 3 główne pasma skalne: Smoleńsko-Niegowonickie, Zborowsko-Ogrodzienieckie i Mirowsko-Olsztyńskie. Ostańce skalne zbudowane są z najbardziej odpornej na niszczenie odmiany wapieni – wapieni skalistych. Przyjmują one przeróżne formy, takie jak iglice, ambony, baszty, mury, stopnie czy bramy. Najwyższym wzniesieniem jest Góra Janowskiego, a jej wysokość to 516 m n.p.m.