W testamencie z roku 1855 zapisał swoje zbiory Ordynacji Pińczowskiej Myszkowskich, z przeznaczeniem publicznego do nich dostępu w Warszawie, przeznaczając na ich utrzymanie i pomnażanie dochody z klucza sulgostowskiego (4200 ha). Margrabia myszkowski Aleksander hrabia Wielopolski krótko po śmierci Świdzińskiego przeniósł jednak w 1858 jego muzeum do Chrobrza i zaczął ogłaszać roczniki "Bibljoteka ordynacji Myszkowskiej, zapis Konstantego Świdzińskiego", z których tom I ukazał się w Krakowie w 1859, a tom drugi rok później tamże. Ponieważ jednak wkrótce się okazało, że zbiory te nie pełnią swej roli zgodnie z wolą ich ofiarodawcy, Wielopolski zwrócił je Świdzińskim (Ludwikowi i Tytusowi, braciom przyrodnim Konstantego, którzy po wieloletnich procesach o obalenie testamentu odzyskali Sulgostów), a ci – już na innych warunkach – przekazali je do Ordynacji Krasińskich, dzięki czemu zbiory ofiarodawcy zostały udostępnione zgodnie z jego wolą szerokiej publiczności w Warszawie, m.in. w Bibliotece Ordynacji Krasińskich. W październiku 1944, po kapitulacji Powstania Warszawskiego zostały spalone przez Niemców wraz z gmachem i zbiorami Biblioteki.