Od zwycięstwa komunistów w chińskiej wojnie domowej w 1949 archidiecezja, podobnie jak cały prześladowany Kościół katolicki w Chinach, nie może normalnie działać. Arcybiskup Paul Yü Pin został przez nowe władze usunięty z katedry i zmuszony do opuszczenia kraju. Do końca życia mieszkał na Tajwanie. Brał udział w obradach Soboru Watykańskiego II. 28 kwietnia 1969 Paweł VI kreował go kardynałem.
W 1950 administratorem apostolskim arcybiskupstwa został biskup szanghajski Ignatius Kung Pin-mei. Zarządzał on nankińskim Kościołem tylko do 1955, gdy został aresztowany. Brak współpracy z komunistami i odmowa przystąpienia do Patriotycznego Stowarzyszenia Katolików Chińskich spowodowały, że hierarcha spędził w więzieniu 30 lat, a kolejne 3 lata w areszcie domowym, gdy to władze pozwoliły mu na emigrację bez prawa powrotu. 30 czerwca 1979 Jan Paweł II wyniósł go in pectore do godności kardynalskiej (jego nazwisko ujawniono na konsystorzu w 1991). Kardynał Kung Pin-mei zachował godność administratora apostolskiego archidiecezji nankińskiej do swojej śmierci w 2000.
Od 2000 do śmierci w 2014 administratorem apostolskim Nankinu był biskup szanghajski Joseph Fan Zhongliang. Należał on do Kościoła podziemnego i był uznawany przez Stolicę Apostolską.