W 2000 objął natomiast stanowisko ministra gospodarki, finansów i przemysłu w zrekonstruowanym gabinecie Lionela Jospina; urząd ten sprawował do 2002.
Przed referendum z 2005, wbrew oficjalnego stanowisku PS, publicznie wzywał do odrzucenia tzw. Konstytucji dla Europy. Ubiegał się o nominację swojego ugrupowania na wybory w 2007, przegrał jednak wewnątrzpartyjną rywalizację m.in. z Ségolène Royal.
16 maja 2012 objął urząd ministra spraw zagranicznych w rządzie, którego premierem został Jean-Marc Ayrault. Utrzymał to stanowisko także w drugim rządzie tego samego premiera (od 21 czerwca 2012), uzyskując wcześniej w wyborach parlamentarnych mandat deputowanego do Zgromadzenia Narodowego XIV kadencji. 2 kwietnia 2014 ponownie powołany na ministra spraw zagranicznych (i rozwoju międzynarodowego) w rządzie Manuela Vallsa. Pozostał nim również w utworzonym w sierpniu 2014 drugim rządzie tegoż premiera.
W 2015 był przewodniczącym konferencji Narodów Zjednoczonych w sprawie zmian klimatu (COP21), podczas której przyjęto paryskie porozumienie klimatyczne. Zakończył urzędowanie na stanowisku ministra 11 lutego 2016 w związku z ogłoszonymi przez prezydenta planami powołania go na przewodniczącego Rady Konstytucyjnej. Funkcję tę objął 8 marca 2016;