W 1973 przystąpił do FDP. W latach 1981–1983 był przewodniczącym oddziału rejencyjnego Rheinhessen-Vorderpfalz, a w 1983 awansował na funkcję przewodniczącego organizacji regionalnej w Nadrenii-Palatynacie, którą pełnił do 2011. Wszedł także w skład zarządu federalnego FDP. W 1995 został wybrany wiceprzewodniczącym ugrupowania, stanowisko to zajmował również do 2011.
W 1987 uzyskał mandat posła do landtagu Nadrenii-Palatynatu, który pełnił do 1998. W tym samym okresie sprawował funkcję ministra do spraw gospodarki i transportu w koalicyjnym rządzie regionalnym: początkowo CDU-FDP, później SPD-FDP (od 1988 był również wicepremierem, a w 1994 do jego kompetencji ministerialnych dodano rolnictwo i uprawę winorośli). W 1998 znalazł się wśród członków Bundestagu (ponowny wybór uzyskiwał w wyborach w 2002, 2005 i 2009). W niższej izbie niemieckiego parlamentu pełnił obowiązki wiceprzewodniczącego klubu parlamentarnego oraz rzecznika ds. ekonomicznych.
28 października 2009 został powołany na urząd ministra gospodarki i technologii w koalicyjnym drugim rządzie Angeli Merkel. 10 maja 2011 został przewodniczącym frakcji poselskiej FDP w Bundestagu, a dwa dni później oficjalnie odszedł z rządu.