Po 23 dniach zwolniono go. Kaczkowski przeniósł się do Bełchatowa i zajął urządzaniem majątku przejętego po bracie. W okresie powstania listopadowego przeciwstawiał się dyktaturze gen. Józefa Chłopickiego, krytycznie oceniał działania rządu powstańczego i armii. W proteście złożył mandat poselski i wrócił do Chojnego, skąd nadzorował także majątek w Bełchatowie. Kilka lat po upadku powstania przekazał Bełchatów synowi Ludwikowi, sam zaś pozostał w Chojnem, gdzie oddał się pasji pisarskiej. Po śmierci żony w 1846 roku, przeniósł się do dóbr bełchatowskich, gdzie rezydował do końca życia. Pozostawił po sobie 45 pozycji bibliograficznych: skończonych utworów i traktatów, notatek, pamiętników itp. Wśród nich naczelne miejsce zajmuje sprawa sejmu Królestwa.
Był członkiem loży wolnomularskiej Hesperus w 1818/1819 rokuStanisław Małachowski-Łempicki, Wykaz polskich lóż wolnomularskich oraz ich członków w latach 1738-1821, w: Archiwum Komisji Historycznej, t. XIV, Kraków 1930, s. 223..