25 listopada 2009 Herman Van Rompuy złożył na ręce króla dymisję ze stanowiska szefa rządu. Tego samego dnia Albert II nowym szefem rządu mianował Yves’a Leterme. Jednym z głównych problemów jego rządu pozostała kwestia statusu wyborczego zamieszkanych przez ludność francuskojęzyczną flamandzkich gmin wokół Brukseli oraz sprawa autonomii Flandrii i Walonii. W celu wypracowania rozwiązania, król mianował negocjatorem rządu w tej sprawie byłego premiera Jean-Luka Dehaene.
22 kwietnia 2010 rząd Yves’a Leterme podał się do dymisji po wyjściu partii Open VLD (flamandzkich liberałów) z koalicji rządzącej. Doprowadziło to do przedterminowych wyborów parlamentarnych, w których urzędujący premier uzyskał mandat poselski. Od tego czasu wobec tzw. belgijskiego kryzysu rządowego jego gabinet nadal sprawował władzę jako tzw. rząd przejściowy.
13 września 2011 zadeklarował, że do końca 2011 zamierza objąć stanowisko zastępcy sekretarza generalnego OECD, w związku z czym ustąpi z urzędu.