W 1991 wstąpił do Wolnej Partii Demokratycznej. 18 stycznia 1991 został członkiem rządu Helmuta Kohla, obejmując stanowisko ministra sprawiedliwości. W kwietniu 1992 deputowani FDP odrzucili zaproponowaną przez liderów partii kandydaturę Irmgard Schwaetzer na ministra spraw zagranicznych w miejsce ustępującego Hansa-Dietricha Genschera, nominując na to stanowisko Klausa Kinkela. Urzędowanie rozpoczął 18 maja 1992, pełniąc tę funkcję do 27 października 1998, kiedy to koalicja chadeków i liberałów przeszła do opozycji. Od 21 stycznia 1993 był jednocześnie wicekanclerzem w czwartym i piątym gabinecie Helmuta Kohla. W trakcie kierowania niemieckim MSZ był m.in. pomysłodawcą utworzenia Międzynarodowego Trybunału Karnego dla byłej Jugosławii.

Od czerwca 1993 do czerwca 1995 był jednocześnie przewodniczącym federalnych struktur swojego ugrupowania. W latach 1994–2002 przez dwie kadencje wykonywał mandat deputowanego do Bundestagu. Po odejściu z bieżącej polityki podjął praktykę adwokacką.

Obejmował też różne funkcje społeczne, m.in.