Pasje badawcze Erbera objęły też studia nad działalnością kanonika warmińskiego i prepozyta kieleckiego Andrzeja Zagórnego, działacza politycznego oraz publicysty Jana Olrycha Szanieckiego (1783–1840). Wiele nowych ustaleń poczynił też Erber w naukowej popularyzacji sylwetek ważnych dla kulturowych dziejów regionu nauczycieli Szkoły Wojewódzkiej Kieleckiej – Wincentego Karczewskiego i Adriana Krzyżanowskiego.
Naukowa fascynacja postacią ks. Andrzeja Zagórnego (proboszcza w podkieleckich Leszczynach) zdecydowała pośrednio, iż w 1976 roku postanowił osiedlić się w jego leszczyńskiej parafii. To tu w miejscowości Bęczków, znalazła wówczas swe lokum ogromna rodzinna kolekcja Erberów, zawierająca m.in. starodruki, ekslibrisy i rzeźby ludowe twórców pochodzących głównie z Kielecczyzny.
W Międzynarodowym Roku Książki obchodzonym w 1972, Czesław Erber zaprezentował publicznie po raz pierwszy swą cenną kolekcję bibliofilską w Bibliotece Głównej Uniwersytetu Marii Curie-Skłodowskiej w Lublinie. W kolejnych latach organizowane ekspozycje wiązał często ze studiami nad dawną ikonografią Kielecczyzny. Znalazło to odbicie w kilku publikacjach, m.in.