Ancelottiemu nie wiodło się z Chelsea w Lidze Mistrzów, w pierwszym sezonie odpadł w 1/8 po porażce z Interem, natomiast rok później wyeliminował go w ćwierćfinale Manchester United. 22 maja 2011 po porażce z Evertonem (0:1) został zwolniony z funkcji trenera Chelsea FC.
Paris Saint Germain 30 grudnia 2011 został trenerem Paris Saint Germain. Przejął drużynę, gdy była na pierwszym miejscu w tabeli z przewagą 3 punktów nad Montpellier. Mimo to nie udało mu się zdobyć mistrzostwa Francji i zakończył sezon na drugim miejscu ze stratą trzech punktów do Montpellier. W następnym sezonie zwyciężył w lidze z ekipą PSG. Jako drugi trener (po José Mourinho) doprowadził do ćwierćfinału Ligi Mistrzów cztery różne kluby.
Real Madryt 25 czerwca 2013 podpisał trzyletni kontrakt z Realem Madryt, z którym 16 kwietnia 2014 pokonał w finale Pucharu Hiszpanii FC Barcelonę 2:1. 29 kwietnia 2014 „Królewscy” pod wodzą Ancelottiego przypieczętowali awans do finału Ligi Mistrzów, pokonując na wyjeździe Bayern Monachium 0:4 (w pierwszym meczu, który odbył się 23 kwietnia 2014 w Madrycie, Real wygrał 1:0). Mecz finałowy odbył się 24 maja w Lizbonie, gdzie Real Madryt pokonał 4:1 (po dogrywce) inny madrycki zespół – Atlético. Tym samym Ancelotti powtórzył sukces Boba Paisleya wygrywając po raz trzeci LM jako trener (wcześniej dwukrotnie z A.C.