Kolekcjonuje też fotografie i pocztówki dotyczące wielkopolskich wsi, a także materiały dotyczące historii Żydów w Wielkopolsce.
Od 2008 wydaje Śremski Notatnik Historyczny, „czasopismo dla miłośników Ziemi Śremskiej”, periodyk ukazujący się regularnie (2 razy w roku), publikujący artykuły poświęcone historii regionu i jego wybitnym przedstawicielom. Do dzisiaj ukazało się 28 numerów Notatnika, którego Krzysztof Budzyń jest wydawcą, redaktorem naczelnym i autorem dużej części tekstówMoja Ziemia Śremska..., ss. 5−12..
19 grudnia 2010 roku powołał do życia Śremskie Forum Dyskusyjne. Organizator otwartych spotkań interdyscyplinarnych, m.in. z prof. Jackiem Kowalskim (historykiem sztuki), prof. Bolesławem Andrzejewskim (filozofem), dr. Łukaszem Budziczem (psychologiem), dr. Edwardem D. Luftem (prawnikiem, pracownikiem rządowym USA), generałem Marianem Zacharskim (oficerem polskiego wywiadu w latach PRL, biznesmenem i pisarzem).
Od 2016 wydaje serię wydawniczą Biblioteka Śremskiego Notatnika Historycznego (w 2016 ukazały się 3 tomy, do chwili obecnej 6 tomów) oraz czasopismo Ziemia Śremska w Ikonografii (ukazały się 4 zeszyty).