Działalność od 1960 W lutym 1960 Charles de Gaulle mianował go ministrem obrony. Pierre Messmer urząd ten sprawował nieprzerwanie do czerwca 1969 w sześciu kolejnych gabinetach, którymi kierowali Michel Debré, Georges Pompidou i Maurice Couve de Murville. Początek pełnienia tej funkcji przypadł na końcowe lata wojny algierskiej zakończonej uznaniem niepodległości Algierii. Jako minister obrony odpowiadał także za przeprowadzony w latach 60. proces reorganizacji francuskiej armii. W okresie rozruchów zapoczątkowanych w maju 1968 odradzał prezydentowi użycie wojska.
W międzyczasie w 1968 został wybrany do Zgromadzenia Narodowego IV kadencji z departamentu Mozela. Działał wówczas w gaullistowskiej Unii Demokratów na rzecz Republiki. W okresie prezydentury Georges’a Pompidou powrócił do rządu. Od lutego 1971 do lipca 1972 był ministrem stanu oraz ministrem do spraw departamentów i terytoriów zamorskich w gabinecie, którym kierował Jacques Chaban-Delmas.
W lipcu 1972 Pierre Messmer został nowym premierem Francji. Stanowisko to zajmował do maja 1974, stojąc w tym czasie na czele trzech kolejnych rządów. Gdy nowym prezydentem został Valéry Giscard d’Estaing, funkcję premiera przejął Jacques Chirac.