W 1986 wybory do Zgromadzenia Narodowego wygrała koalicja centroprawicy – Jacques Chirac stanął na czele rządu. Doszło wtedy do pierwszej koabitacji, gdy prezydent i premier wywodzili się z innych obozów politycznych. W okresie tym François Mitterrand utrzymał w szczególności wpływ na politykę zagraniczną państwa. Sytuacja koabitacji w czasie jego prezydentury utrzymywała się do 1988 i ponownie w latach 1993–1995.
W 1993 dziennik „Libération” ujawnił, że na początku lat 80. z inicjatywy François Mitterranda powołano specjalną jednostkę antyterrorystyczną, która nielegalnie podsłuchiwała rozmowy telefoniczne. Pojawiały się również różne skandale uderzające w zaplecze polityczne prezydenta. François Mitterrand miał też zatwierdzić zatopienie w 1985 statku Greenpeace'u „Rainbow Warrior” u wybrzeży Nowej Zelandii.
Działalność po prezydenturze Jego druga kadencja zakończyła się 17 maja 1995. Socjaliści nie utrzymali stanowiska prezydenta – ich kandydata Lionela Jospina pokonał w wyborach Jacques Chirac. François Mitterrand odmówił pracy w Radzie Konstytucyjnej. Zmarł 8 stycznia 1996 na raka prostaty. Uroczystości pogrzebowe odbyły się 11 stycznia tego samego roku, na ten dzień zarządzono żałobę narodową. W pogrzebie zmarłego prezydenta uczestniczyli m.in. wiceprezydent Stanów Zjednoczonych Al Gore i prezydent Rosji Boris Jelcyn.