Jerzego znajduje dobudowana już w średniowieczu dawna plebania (XIV/XV–XVI w.), a później pastorówka (XVI w. – 1817 r.), zamieniona w XIX w. na gimnazjum (lata 1817–1907), do 1945 roku funkcjonująca jako tzw. Wdowi Dom (ul. Zamkowa 4) – czyli miejsce zamieszkania dla żon zmarłych księży. W 2011 roku przy zewnętrznych murach dawnej pastorówki przeprowadzone zostały sondażowe archeologiczne badania wykopaliskowe, którymi kierował archeolog Mariusz Biel. W ich wyniku zadokumentowano obecny stan techniczny murów fundamentowych i zarejestrowano nawarstwienia kulturowe wraz z zabytkami. Pozyskany materiał umożliwił wyróżnienie aż 5 faz chronologicznych na wzgórzu kościelnym, w tym najstarszą fazę osadniczą z XIV–XV w.Biel Mariusz, Kętrzyn - ul. Zamkowa 4, Kraków 2013..
Brama przy zachodniej fasadzie prowadzi na teren międzymurza, gdzie urządzono lapidarium, w którym zgromadzono zabytkowe nagrobki, pomniki, epitafia i żeliwne krzyżePiotr Skurzyński, Warmia, Mazury, Suwalszczyzna, Wyd. Sport i Turystyka - Muza SA, Warszawa 2004 s.