Ukształtowanie terenu hrabstwa tworzą pofałdowane grzbiety Appalachów, przebiegające z południowego zachodu na północny wschód. Teren opada w kierunku północno‑wschodnim, a najwyższy punkt znajduje się na grzbiecie Blue Mountain, który wyznacza granicę między hrabstwami Perry i Cumberland. Szczyt położony jest 1,34 km na północny wschód od najbardziej wysuniętego na południe punktu hrabstwa i osiąga wysokość 692 m n.p.m. Hrabstwo Perry należy do obszaru Appalachian Regional Commission i zostało zaliczone do regionu „Midlands” według klasyfikacji Colina Woodarda.
Ważnym punktem geograficznym na mapie hrabstwa jest rzeka Susquehanna, płynąca na południe i stanowiąca niemal całą jego wschodnią granicę. Rzeka Juniata wpływa do hrabstwa z hrabstwa Juniata w pobliżu Millerstown i kieruje się na południowy wschód, aż do ujścia do Susquehanny w pobliżu Duncannon. Na terenie hrabstwa znajdują się również liczne potoki, strumienie i jeziora, które zapewniają możliwości rekreacyjne i wędkarskie, a dawniej zasilały młyny i stanowiły szlaki transportowe. Kajakarstwo pozostaje popularną formą rekreacji, szczególnie na Shermans Creek i innych ciekach wodnych.