W 1974 Joseph Herter osiedlił się w Polsce, gdzie początkowo pracował jako nauczyciel i dyrektor muzyczny w Szkole Amerykańskiej w Warszawie (American School of Warsaw). Od czasów demokratycznych przemian w Polsce Herter miał podwójne obywatelstwo polskie i amerykańskieJoseph Herter, Teatr Rozrywki, www.teatr-rozrywki.pl [dostęp 25.04.2020]Marek Zebrowski, In Search of Harmony: An Obituary of Joe Herter, Polish Music Center, University of Southern California, polishmusic.usc.edu, 20.12.2019 [dostęp 25.04.2020]Joseph Anthony Herter, sluzew.pl [dostęp 25.04.2020].
Był gościnnym dyrygentem w Teatrze Wielkim i w Teatrze Polskiego Radia. Współpracował z wieloma orkiestrami w całej Polsce (m.in. z orkiestrami kameralnymi Torunia i Włocławka, Warszawską Grupą Perkusyjną, orkiestrami filharmonicznymi: Częstochowy, Jeleniej Góry, Kielc, Koszalina, Lublina, Łodzi, Olsztyna, Opola, Szczecina), dyrygował na wielu festiwalach muzycznych w Europie i Stanach Zjednoczonych. Z Orkiestrą Filharmonii Narodowej nagrał muzykę Krzesimira Dębskiego do filmu i serialu Alchemik. Był związany również z Teatrem Muzycznym ROMA i Teatrem Polskim w Warszawie oraz od 1989 z Teatrem Rozrywki w Chorzowie, gdzie dyrygował m.in.