W pałacu znajdowała się również bogata kolekcja numizmatyczna, w której najstarsze monety i medale pochodziły z czasów starożytnych (m.in. medal z portretem króla Zygmunta III Wazy z 1623 roku). Kolejne renowacje przypadły na lata 90’ XIX wieku i początek XX wieku. Kolejne pomieszczenia były przebudowywane, restaurowane i remontowane. Odnawiano schody, piece, posadzki, tynk na elewacji, ogrodzenie pałacu, dach. W roku 1898 w pałacowym parku rozpoczęto budowę domu ogrodnika. Stanął on tuż obok głównego wjazdu na teren posiadłości przy dzisiejszej ulicy Kasztanowej. W 1906 roku do pałacu doprowadzono bieżącą wodę, a dwa lata później gazowe oświetlenie. Pomiędzy 1907 a 1908 rokiem oranżerie przebudowano na bibliotekę. Tysiące książek w końcu znalazło swe godne miejsce w jarocińskim pałacu. W roku 1910 na tylnej elewacji pałacu umieszczono zegar słoneczny, którego twórcą był Richard Munzky. W tym samym roku w parku nieopodal rezydencji zbudowano budynek gospodarczy. W latach 1911–1914 książę Hugo dokonał rozbudowy pałacu, według projektu jarocinianina Augusta Frietzschego, której głównym celem było dobudowanie wschodniego skrzydła. Kres poważnych inwestycji w jarociński pałac nastąpił z chwilą śmierci księcia Hugona, która nastąpiła 20 lipca 1917 roku właśnie w rodowej rezydencji.