Pełnił m.in. funkcję sekretarza nuncjatury na Madagaskarze oraz w delegaturach apostolskich na Reunionie i Mauritiusie. W lutym 1970 został szefem sekcji anglojęzycznej Sekretariatu Stanu. Jako tłumacz języka angielskiego towarzyszył kolejnym papieżom Pawłowi VI i Janowi Pawłowi II w ich podróżach zagranicznych. Niezależnie od tych funkcji przez wiele lat był kapelanem sióstr karmelitanek w klasztorze św. Józefa w Rzymie; nosi tytuły kapelana Jego Świątobliwości (1967) i prałata honorowego (1980).
W czerwcu 1985 został mianowany arcybiskupem tytularnym Volsinium, jednocześnie rektorem Papieskiej Akademii Kościelnej; sakry biskupiej udzielił mu Jan Paweł II 14 września 1985 w Albano Laziale. W grudniu 1989 został powołany na sekretarza Kongregacji ds. Biskupów, a w styczniu 1990 na sekretarza Kolegium Kardynalskiego. Prowadził również działalność duszpasterską w rzymskich parafiach i seminariach. W styczniu 1994 został mianowany arcybiskupem metropolitą St. Louis, a w lipcu 2003 – arcybiskupem metropolitą Filadelfii. Uczestniczył w sesjach Światowego Synodu Biskupów w Watykanie, w tym poświęconej Kościołowi w Ameryce jesienią 1997.
21 października 2003 papież Jan Paweł II kreował go kardynałem prezbiterem, z tytułem S.