został powołany na członka komisji, która miała przygotować niemiecką ustawę kartelową.

W 1951 r. wstąpił do CDU i w latach 1953–1960 pełnił funkcję radnego miejskiego Fryburga, a w 1958 r. został powołany do rządu krajowego jako honorowy radny krajowy w Południowej Badenii. W wyborach w 1960 r. został wybrany do Landtagu i odebrał nominację na ministra spraw wewnętrznych Badenii-Wirtembergii. W 1966 r. został przewodniczącym CDU w południowej Badenii, która do 1971 r. była podzielona w tym landzie na cztery odrębne organizacje. Jako zagorzały zwolennik połączenia struktur w jednolitą organizację landową został wybrany w 1971 r. na pierwszego przewodniczącego zjednoczonej CDU i przewodniczył jej w latach 1971–1979, po czym został honorowym przewodniczącym.

Po odejściu Kurta Georga Kiesingera do urzędu kanclerskiego w 1966 r. objął stanowisko premiera landu i po rozwiązaniu istniejącej od 1960 r. koalicji z FDP doprowadził do tzw. wielkiej koalicji z SPD. Po wyborach landowych w 1968 r. utrzymał się na urzędzie premiera, gdyż CDU otrzymała 44,2% głosów i kontynuowała wielką koalicję z SPD. Najważniejszym wydarzeniem politycznym tej kadencji było głosowanie nad kwestią powstania odrębnego kraju związkowego Badenii w granicach dawnego Wielkiego Księstwa Badenii.