Elewacje boczne i absyda zostały jednak nie zmienione.
Na początku lat dziewięćdziesiątych XX wieku na drugim piętrze budynku znów odbywały się nabożeństwa katolickie aż do całkowitego przekazania świątyni katolikom 15 grudnia 1993 roku. Rozpoczęły się wówczas prace restauracyjne, w trakcie których przywrócono pierwotny wygląd fasady, usunięto podziały wewnętrzne i odbudowano dwie wysokie wieże. Nowy ołtarz zaprojektował prof. Wiktor Zin z KrakowaJerzy Paszenda, Budowle jezuickie w Polsce XVI–XVIII w., Tom 2, Wydawnictwo WAM, Kraków 2000, s.286, . 21 października 1997 roku legat papieża Jana Pawła II, kardynał Kazimierz Szoka uroczyście dokonał ponownego poświęcenia katedry.
Architektura Kościół zbudowano w stylu baroku, w porządku jońskim. Posiada on dwie czterokondygnacyjne czworoboczne wieże, na których zawieszone były dzwony: św. Jakub, ważący 350 pudów (5733 kg), św. Felicjan – 250 pudów (4095 kg), św. Tadeusz – 48 pudów i 20 funtów (794,35 kg), św. Kazimierz – 20 pudów (327,6 kg), sygnaturka ważyła jeden pud (16,38 kg). Dzwony Jakub i Felicjan uchodziły za największe na Litwie. Dach świątyni pokryty był blachą. Główną fasadę świątyni zdobiły figury Najświętszej Marii Panny i św. Apostołów Piotra i Pawła. Przed wejściem znajdował się murowany arkadowy krużganek, kryty blachą.