Po ustanowieniu terytorialnych prefektur pretoriańskich przez Konstantyna ok. 326-8, diecezje funkcjonowały poziom pośredni między prowincjami a prefekturami, aczkolwiek hierarchia nie była „sztywna”: zarządcy prowincji mogli odnosić się bezpośrednio do prefekta lub cesarza, i vice versa. Na Zachodzie, diecezje rozwiązano gdy osłabła zwierzchność Rzymu, ale na Wschodzie przetrwały dłużej. Po stwierdzeniu, że są nieefektywne, cesarz Justynian I rozwiązał większość diecezji w reformie administracji w latach 30. VI wieku, zwiększając przy tym autorytet zarządców prowincji. Te działania zostały rozszerzone na odzyskane tereny Italii i Afryki, gdzie Justynian wolał ustanowić prefektów pretoriańskich bezpośrednio nadzorujących prowincje.
Wprowadzenie terminu do użytku religijnego Między IV a VI stuleciem, gdy stara struktura administracyjna zaczęła się kruszyć, rola biskupów na ziemiach zachodnich Imperium pozwoliła tym ziemiom i ich mieszkańcom utrzymać pozór cywilizacji, podczas gdy autorytet Rzymu ginął. Senatorska arystokracja, zwłaszcza w prowincjach, dalej służyła w wielu miejscach jako lokalne autorytety uzupełniając autorytet Kościoła. Pod koniec starożytności, polityczna siła często bywała przejmowana przez regionalnego biskupa.