Zakupiony w Sopocie niewielki dom letniskowy rozbudował w 1896 do kształtu wieloobiektowej rezydencji (willa przy ul. T. Kościuszki 29Willa Herbstów w Sopocie na portalu dawnysopot.pl.), w której coraz częściej przebywał przed wybuchem I wojny światowej, aż w końcu w 1919 zamieszkał w niej na stałe wraz z żoną i gdzie zmarł. W kręgu tamtejszej polskiej społeczności był znanym filantropem na jej rzecz, np. sfinansował zakup trzech dużych dzwonów dla nowo budowanego kościoła „Gwiazda Morza”, za znaczną w tamtych czasach sumę 7500 mk, ale też angażował się finansowo przy budowie sopockiego hotelu „Werminghoff”.
Za gorliwość okazaną przy dziele budowy cerkwi św. Aleksandra Newskiego w Łodzi przy ul. Widzewskiej (ob. ul. Kilińskiego 56) został odznaczony w październiku 1884 Orderem Świętego Stanisława II klasy. W październiku 1888 otrzymał Order Świętej Anny II klasy. 18 listopada 1895 roku, na wniosek ministra finansów, został odznaczony Orderem Świętego Włodzimierza III klasy. Notka zawarta w 83 numerze Gazety Gdańskiej z 13 lipca 1909 roku informuje, że najbogatszy sopocianin odznaczony został przez cesarza Wilhelma II Orderem Korony II klasy.