Pod świątynią znajdują się krypty grobowe, zamknięte i niedostępne dla zwiedzających. Pochowani są w nich m.in. ks. Jan Kanty Mroczkowski, proboszcz w latach 1717-1764, oraz Stanisław Kostka Nowakowski, szambelan króla Stanisława II Augusta i właściciel miasta w latach 1806-1841.
Świątynia ma dwie jednakowe wieże, umiejscowione na ścianie fasadowej, pełniące rolę dzwonnicy i przykryte metalowymi hełmami. W fasadzie znajdują się wnęki z XIX-wiecznymi rzeźbami, przedstawiającymi św. Piotra i św. Pawła, a także tablice z wyrytymi danymi fundacyjnymi.
W kruchcie umieszczona jest tablica z epitafium pochowanego w kościele Stanisława Kostki Nowakowskiego. W nawie kościoła znajdują się tablice ku czci ks. Józefa Chmielewskiego oraz ks. Czesława Koziołkiewicza, a także tablica upamiętniająca żołnierzy Armii Krajowej ziemi biłgorajskiej. Na zewnątrz, we frontowej ścianie świątyni, wmurowana jest też tablica ku pamięci ofiar zbrodni na Rapach.
Wyposażenie Wyposażenie wnętrza kościoła utrzymane jest w stylu późnobarokowym. Jednakże większość elementów (m.in. ławki, konfesjonały) pochodzi z okresu po II wojnie światowej. Dotyczy to m.in. wielkiego ołtarza, który jest wierną rekonstrukcją poprzedniego, zniszczonego podczas pożaru w 1939.
W nawie świątyni znajdują się trzy drewniane, złocone ołtarze: