Gundlach wraz z objęciem parafii został prezesem niemieckiego Towarzystwa Śpiewaczego (niem. Kirchen-Gesang-Verein Sankt Trinitatis). Przyczynił się również do powstania w 1916 Polskiego Ewangelickiego Chóru Kościelnego – pierwszej łódzkiej organizacji ewangelików-Polaków. W 1900 zainicjował budowę szkoły elementarnej dla dzieci z ewangelickiego domu sierot, a w późniejszym okresie powstanie 3 szkół kantoralnych. Ponadto zainicjował przeniesienie Zakładu dla Niedorozwiniętych i Epileptyków z Wiskitek do Łodzi, który wybudowano w 1908 przy ul. Północnej 42 w Łodzi. W latach 1905–1907 Gundlach zaangażowany był we wspieranie pracowników fabryk, których praca została wstrzymana w wyniku lokautu.
W 1907 został prezesem Łódzkiego Chrześcijańskiego Towarzystwa Dobroczynności, zastępując na stanowisku Karola Jonschera. Jako prezes ŁCHTD zajmował się łącznie 20 instytucjami dobroczynnymi o charakterze socjalnym, opiekuńczo-wychowawczym oraz leczniczym. W 1911 zainicjował „Dzień ubogich”, w ramach którego organizował imprezy, kwesty, koncerty, sprzedaże kwiatów, przedstawienia, zbierając łącznie ok. 50 tys. rubli, które przeznaczył na łódzkie instytucje charytatywne różnych wyznań.