Swoim poglądom politycznym dał też wyraz w publikacji Le Coup d’État permanent z 1964. W 1965 wystartował w wyborach prezydenckich, uzyskując wsparcie ugrupowań lewicowych skupionych w powstałej w tymże roku federacji Fédération de la gauche démocrate et socialiste (FGDS). Faworytem tych wyborów był ubiegający się o reelekcję Charles de Gaulle, jednak dobry wynik centrysty Jeana Lecanueta przyczynił się do tego, że nie doszło do rozstrzygnięcia w pierwszej turze. Prezydent uzyskał w niej 44,7% głosów, zaś kandydata lewicy poparło 31,7% głosujących. W drugiej turze François Mitterand dostał 44,8% głosów, przegrywając tym samym wybory.

Stał się faktycznym liderem FGDS (zrzeszającą m.in. SFIO i CIR), dopuszczał współpracę z izolowaną dotąd przez lewicę Francuską Partią Komunistyczną, do której zaczęło dochodzić w drugiej połowie lat 60. Zrezygnował z kandydowania na prezydenta w 1969. W czerwcu 1971 przyłączył swoje ugrupowanie do powstałej w 1969 Partii Socjalistycznej (PS). Zastąpił wówczas na jej czele Alain Savary’ego, obejmując stanowisko pierwszego sekretarza partii. Zawiązał porozumienie z komunistami i z radykałami, został wspólnym kandydatem lewicy w wyborach prezydenckich w 1974, które rozpisano po śmierci Georges’a Pompidou. W pierwszej turze zajął pierwsze miejsce z wynikiem 43,3% głosów.