W latach 1650–1952 wykładał muzykologię na Uniwersytecie w Kolonii. Od 1957 kierował wydziałem dramatu radiowego, filmu i muzyki scenicznej w kolońskim konserwatorium (od 1962 jako profesor). W tym okresie, poza działalnością pedagogiczną, współpracował z radiem i teatrem, w celach zarobkowych pisał muzykę filmową i aranżował muzykę rozrywkową dla orkiestry Hermanna Hagestedta.

W 1956 został wybrany przewodniczącym niemieckiej sekcji ISCM. W 1957 oraz w 1963 był stypendystą w Deutsche Künstlerakademie (10-miesięczna rezydentura w w Rzymie), gdzie rozpoczął pracę nad operą Die Soldaten. W 1960 otrzymał główną nagrodę Nadrenii Północnej-Westfalii (Großer Kunstpreis des Landes Nordrhein-Westfalen), a w 1966 nagrodę artystyczną miasta Kolonii. Członek Akademie der Künste w Berlinie (od 1965).

W 1970 Zimmermann popełnił samobójstwo. Powodem był nieuleczalna choroba i świadomość nadchodzącej ślepoty.

Twórczość Zimmermann miał skłonność do wyrazistej rytmiki i wyrafinowanej harmonii;