W 1946 wstąpił do Unia Chrześcijańsko-Demokratycznej, w 1947 współtworzył również młodzieżówkę partii Junge Union. W 1947 został radnym rady powiatu Warendorf, mandat wykonywał do 1948 i ponownie w latach 1964–1966. Od 1948 do 1964 był radnym Warendorfu, od 1956 kierował tam frakcją radnych CDU. W 1957 po raz pierwszy zasiadł w Bundestagu, mandat utrzymywał w kolejnych wyborach, wykonując go do 1990.

W latach 1965–1967 był przewodniczącym komisji finansów publicznych w Bundestagu. W 1969 pełnił funkcję ministra ds. wypędzonych w rządzie Kurta Kiesingera. W latach 1977–1981 przewodniczył parlamentarnej komisji budżetu. W 1981 został wybrany na wiceprzewodniczącego Bundestagu. Pełnił tę funkcję do 1983. Od 1983 do 1987 sprawował urząd ministra stosunków wewnątrzniemieckich w drugim rządzie Helmuta Kohla. W 1990 nie ubiegał się ponownie o mandat deputowanego, odchodząc po 33 latach z niemieckiego parlamentu.

Zaangażował się w działania na rzecz pojednania polsko-niemieckiego, pełniąc w latach 1991–1995 funkcję współprzewodniczącego Fundacji Współpracy Polsko-Niemieckiej.

Był żonaty, miał czwórkę dzieci. Został pochowany na cmentarzu w Warendorf.