Około 1840 roku wybudował on na wschodnim skraju istniejącego w Reptach lasu niewielki zameczek myśliwski (Jagdschloss), cały zaś kompleks przekształcił w otoczony murem z kamienia wapiennego zwierzyniec.
Z inicjatywy syna Karola Łazarza, Guidona, w centralnej części założenia wybudowano w latach 1893–1898 nowy, okazały pałac w stylu neorenesansu niemieckiego, zwierzyniec natomiast przekształcony został w park w stylu angielskim. Autorem projektu był bawarski architekt , pod którego kierunkiem w tym samym czasie powstał budynek Bawarskiego Muzeum Narodowego w Monachium.
W maju 1895 roku rozpoczęła się budowa usytuowanej na północ od pałacu masztalni. Prowadzonymi przy niej pracami kierował architekt Adolf Seiffhart, również pochodzący z Monachium, znany w Tarnowskich Górach przede wszystkim z rozbudowy kościoła ewangelicko-augsburskiego oraz z projektu ołtarza w kościele Przemienienia Pańskiego w Bobrownikach. W tym samym czasie Seiffhart zaprojektował również gajówkę przy północnym wjeździe na teren parku, później nazwana restauracją „Leśniczówka”.