Odszedł z urzędu w lipcu 1972, powodem były różnice zdań między nim a prezydentem oraz spory wewnątrz Unii Demokratów na rzecz Republiki.

Po śmierci Georges’a Pompidou w 1974 został kandydatem gaullistów na prezydenta. Część tego środowiska odmówiła jednak jego poparcia – 43 parlamentarzystów pod przywództwem Jacques’a Chiraca podpisało petycję nawołującą do poparcia kandydatury reprezentującego środowisko republikanów Valéry’ego Giscarda d’Estainga, który ostatecznie zwyciężył w tych wyborach. Były premier zajął trzecie miejsce w pierwszej turze, otrzymując 15,1% głosów.

Jacques Chaban-Delmas pozostał aktywny we francuskiej polityce. Kontynuował działalność parlamentarną oraz samorządową. Pełnił dwukrotnie funkcję przewodniczącego rady regionalnej Akwitanii (1974–1979 i 1985–1988). Od kwietnia 1978 do maja 1981 i od kwietnia 1986 do czerwca 1988 ponownie był przewodniczącym Zgromadzenia Narodowego.

W 1995 nie ubiegał się o urząd mera, który przejął po nim Alain Juppé. Dwa lata później odszedł z francuskiego parlamentu, kończąc swoją wieloletnią polityczną aktywność. Zmarł 10 listopada 2000 w Paryżu.