Piotra – człowieka, któremu Jezus powierzył opiekę nad Kościołem – jest fundamentem prymatu biskupa Rzymu nad innymi biskupami katolickimi i w przeszłości do roszczenia prymatu nad wszystkimi biskupami chrześcijańskimi.
Chrześcijanie rzymscy cierpieli wielokrotne prześladowania aż do ogłoszenia edyktu mediolańskiego w 313. Praktycznie wszyscy papieże pierwszych trzech wieków zginęli śmiercią męczeńską. W okresie tych trzech stuleci głównym miejscem zgromadzeń kościoła rzymskiego pod przewodnictwem biskupa (papieża) był dom Rufusa Pudensa, znany później jako oratorium Santa Pudenziana (aktualnie jeden z kardynalskich kościołów tytularnych).
Po uzyskaniu wolności religijnej przez chrześcijan oraz ustanowieniu chrześcijaństwa religią państwową Cesarstwa Rzymskiego wybudowano cztery bazyliki patriarchalne (dziś nazywane papieskimi) w Rzymie: na Lateranie (do której przeniesiono katedrę biskupią z Santa Pudenziana), na Watykanie, św. Pawła za Murami oraz Matki Bożej Większej.
W 756 za pontyfikatu Stefana II powstało Państwo Kościelne, nad którym biskupi Rzymu sprawowali władzę świecką. Istniało ono (z przerwami) do 1870. 11 lutego 1929 powstało kolejne państwo pod władzą papieską – Watykan.