W 1954 wstąpił do Wolnej Partii Demokratycznej. W latach 1966–1968 był przewodniczącym współpracującej z liberałami młodzieżówki Jungdemokraten. W latach 1970–1990 był członkiem komitetu wykonawczego FDP w Nadrenii Północnej-Westfalii. Od 1982 do 1991 pełnił funkcję wiceprzewodniczącego partii. W latach 1969–1973 zasiadał w radzie miejskiej Kolonii. Od 1972 do 1994 wykonywał mandat posła do Bundestagu. W latach 1972–1978 był parlamentarnym sekretarzem stanu w resorcie spraw wewnętrznych. Od czerwca 1978 do września 1982 sprawował urząd ministra spraw wewnętrznych w dwóch rządach Helmuta Schmidta.

Powrócił do prowadzenia praktyki adwokackiej. Od 1992 do 1998 był przewodniczącym niemieckiej delegacji przy Komisji Praw Człowieka ONZ w Genewie. W latach 2001–2003 pełnił funkcję specjalnego sprawozdawcy ONZ ds. praw człowieka w Sudanie. W 2003 wszedł w skład rady powierniczej fundacji wspierającej działalność Amnesty International, a w 2006 dołączył do komitetu doradczego Human Rights Watch.

Odznaczenia i wyróżnienia Wielki Krzyż Zasługi z Gwiazdą Orderu Zasługi Republiki Federalnej Niemiec (2023) Tytuł doktora honoris causa wydziału prawa Uniwersytetu Kolońskiego (2024)