Od 1993 do 1994 był stałym przedstawicielem Słowacji przy ONZ w Genewie, a także przy WTO i innych organizacjach międzynarodowych. Od 1994 do 1998 zajmował stanowisko dyrektora Centrum Zapobiegania Konfliktom w sekretariacie OBWE. Następnie do 1999 pełnił funkcję specjalnego przedstawiciela sekretarza generalnego ONZ w Tadżykistanie, kierując jednocześnie misją obserwatorów w tym kraju. Od 1999 do 2005 był sekretarzem generalnym Organizacji Bezpieczeństwa i Współpracy w Europie. W 2005 został mianowany specjalnym wysłannikiem Unii Europejskiej ds. Azji Środkowej.
W lipcu 2006 powrócił na Słowację, obejmując urząd ministra spraw zagranicznych w rządzie Roberta Ficy. Sprawował go do stycznia 2009, kiedy to zastąpił go Miroslav Lajčák. Ustąpił w związku z ogłoszoną w grudniu 2008 nominacją na sekretarza wykonawczego Europejskiej Komisji Gospodarczej (UNECE). Instytucji tej przewodniczył do listopada 2011, kiedy to stanął na czele Misji Wsparcia Narodów Zjednoczonych w Afganistanie.
W 2015 objął urząd specjalnego przedstawiciela sekretarza generalnego ONZ w Iraku. Funkcję tę pełnił do 2018. W 2019 został specjalnym koordynatorem ONZ do spraw Libanu. W 2021 objął kierownictwo UNSMIL, Misji Wsparcia Narodów Zjednoczonych dla Libii.