W 1996 został mianowany wiceministrem spraw zagranicznych do spraw akcesji Czech do struktur Unii Europejskiej.

Od 2 stycznia do 23 lipca 1998 pełnił funkcję ministra spraw wewnętrznych (w rządzie, którym kierował Josef Tošovský) i w tym samym czasie przewodniczył czeskiej delegacji w negocjacjach z reprezentantami Unii Europejskiej w sprawie przystąpienia Czech do tej organizacji. W 1998 po raz pierwszy został wybrany do Izby Poselskiej, mandat deputowanego pełnił przez trzy kadencje do 2010. Od 23 lipca 1998 do 20 czerwca 2000 był przewodniczącym Komitetu Petycyjnego. 15 lipca 2002 został mianowany ministrem spraw zagranicznych oraz wicepremierem rządu Czech tworzonego przez centrolewicową koalicję (wicepremierem był do 4 sierpnia 2004, ministrem do 4 września 2006). W latach 2007–2009 był ministrem bez teki i przewodniczącym Rady Legislacyjnej w drugim rządzie Mirka Topolánka, następnie przez kilka miesięcy ministrem rozwoju regionalnego w tym samym gabinecie.