W 1990 pracował jako doradca wiceministra spraw zagranicznych Czechosłowacji. W latach 1991–1992 był III sekretarzem i konsulem w ambasadzie Czechosłowacji w Zimbabwe, następnie zastępcą szefa misji i II sekretarzem w ambasadzie w Kanadzie (1992–1995). W 1995 rozpoczął pracę w Departamencie Państw Unii Europejskiej i NATO słowackiego Ministerstwa Spraw Zagranicznych (był m.in. jego wicedyrektorem). W latach 1998–1999 był zatrudniony w stałym przedstawicielstwie Słowacji przy Wspólnotach Europejskich jako radca i zastępca szefa misji.

W latach 1999–2002 sprawował funkcję ambasadora w Izraelu. Po powrocie do kraju pracował w MSZ na stanowisku dyrektora generalnego (2002–2004). W latach 2004–2009 był stałym przedstawicielem Słowacji przy Wspólnotach Europejskich. 1 października 2009 objął urząd komisarza europejskiego ds. edukacji, kultury, szkoleń i młodzieży w I komisji José Barroso. W II komisji José Barroso został wiceprzewodniczącym KE i komisarzem ds. instytucjonalnych oraz administracji.