W 1990 założył i prowadził do końca 2016 Chłopięco-Męski (obecnie Męski) Chór Archikatedry Warszawskiej św. Jana „Cantores Minores”. Pod jego przewodnictwem chór podróżował i występował w kilkunastu krajach, zdobywając liczne nagrody i wyróżnienia w Polsce i za granicąWarszawski Chór Archikatedralny "Cantores Minores", culture.pl, listopad 2006 [dostęp 25.04.2020].

Herter był autorem pierwszej obszernej biografii pianisty i kompozytora Zygmunta Stojowskiego (1870- 1946) pt. „Zygmunt Stojowski: life and music” wydanej w 2007Joseph A. Herter, Zygmunt Stojowski: life and music, Polish Music History Series, Los Angeles, Figueroa Press 2007 oraz noty o Stojowskim dołączonej do pierwszego komercyjnego nagrania koncertów fortepianowych tego artysty (2002)The Romantic Piano Concerto. Zygmunt Stojowski (1869-1946), Hyperion Records, 2002.  Był również autorem opracowania preludium symfonicznego „Polonia” Edwarda ElgaraJoseph Herter, Polonia op. 76 by Edward Elgar,  Journal of the Elgar Society 2, no. 2 (1999), s. 97–109. Współpracował także z Gregorian Institute of America w Chicago jako redaktor i aranżer chóralny. Przez kilka lat prowadził comiesięczna kolumnę dotycząca wydarzeń muzycznych w magazynie dla turystów "Warszawa – What, When, Where".