W czasie tego sejmu lub wkrótce po jego zakończeniu Rudzki został archiwistą i sekretarzem przy świeżo kreowanym marszałku wielkim koronnym Fryderyku Moszyńskim.
19 kwietnia 1794 Rudzki złożył na Ratuszu Warszawskim akces do insurekcji kościuszkowskiej. 24 kwietnia został przydzielony do Komisji Porządkowej Rady Zastępczej Tymczasowej Księstwa Mazowieckiego. 27 kwietnia został mianowany asesorem w Dyrekcji Policji, a 14 lipca otrzymał nominację na sekretarza w kancelarii Wydziału Bezpieczeństwa Rady Najwyższej Narodowej. Po upadku insurekcji znalazł się wraz z gronem przyjaciół z Biblioteki Załuskich w Dzikowie Tarnowskich, gdzie został nauczycielem Jana Feliksa Tarnowskiego, siostrzeńca Czackiego, lecz gdzie „źle czuł się po rozproszeniu się przyjaciół”. W 1798 roku, po prawie dwuletnim wahaniu, przeniósł się do Korostoszewa koło Żytomierza, majątku Feliksa Olizara, zostając nauczycielem jego synów.