Po jego zwycięstwie od 1981 do 1982 pełnił funkcję sekretarza generalnego administracji prezydenckiej.
W 1983 został wybrany na mera Nevers, a w 1985 na radnego departamentu Nièvre (oba stanowiska zajmował do śmierci). W 1986 po raz pierwszy uzyskał mandat posła do Zgromadzenia Narodowego, utrzymywał go w wyborach w 1988 i 1993.
Od czerwca 1982 do lipca 1984 był ministrem spraw społecznych i solidarności narodowej w dwóch gabinetach, którymi kierował Pierre Mauroy. Następnie do marca 1986 stał na czele resortu gospodarki, finansów i budżetu u Laurenta Fabiusa. Do administracji rządowej powrócił po dwóch latach po ponownym zwycięstwie socjalistów. Od maja 1988 do kwietnia 1992 ponownie sprawował urząd ministra gospodarki, finansów i budżetu, będąc jednocześnie ministrem stanu w rządach Michela Rocarda i Édith Cresson.
W kwietniu 1992 objął urząd premiera, sprawując go do marca 1993. W ostatnim miesiącu pełnienia tej funkcji kierował jednocześnie ministerstwem obrony. Na czele francuskiego rządu stanął, zastępując niepopularną Édith Cresson, która ustąpiła po porażce lewicy w wyborach regionalnych. Stanowisko premiera objął w czasie kryzysu w Partii Socjalistycznej, której notowania obniżały ujawniane skandale finansowe.