Valéry Giscard d’Estaing wygrał w drugiej turze, pokonując kandydata socjalistów François Mitterranda. W maju 1974 nowy prezydent powołał dotychczasowego ministra spraw wewnętrznych na urząd premiera. W grudniu tegoż roku Jacques Chirac stanął na czele Unii Demokratów na rzecz Republiki jako jej sekretarz generalny. W kwietniu 1975 formalne kierownictwo przejął André Bord, a w czerwcu urzędujący premier został honorowym sekretarzem generalnym partii. W 1976 doszło do serii spięć między Pałacem Elizejskim a siedzibą premiera Hôtel Matignon. W sierpniu tegoż roku lider gaullistów zrezygnował z kierowania gabinetem.
W grudniu 1976 doprowadził do rozwiązania UDR i powołania na jej bazie nowego ugrupowania gaullistowskiego pod nazwą Zgromadzenie na rzecz Republiki (RPR). Stanął wówczas na jego czele i kierował nim do listopada 1994 (ustąpił w związku z ogłoszoną kandydaturą prezydencką, zastąpił go wtedy Alain Juppé). W marcu 1977 został wybrany na mera Paryża (urząd przywrócony po ponad 100 latach). Reelekcję na to stanowisko uzyskiwał w wyborach lokalnych w 1983 i 1989, kończąc urzędowanie 16 maja 1995 (dzień przed objęciem stanowiska prezydenta).