Jako lider CVP w 1976 brał udział w powołaniu Europejskiej Partii Ludowej (EPP), kierując przez rok jej komitetem programowym.

Między 1974 a 1991 sprawował mandat posła do Izby Reprezentantów, następnie przez trzy lata zasiadał w belgijskim Senacie. Od 3 kwietnia 1979 do 6 kwietnia 1981 po raz pierwszy zajmował stanowisko premiera, stojąc na czele czterech kolejnych koalicyjnych rządów. Ponownie funkcję tę objął 17 grudnia 1981, po czym do 7 marca 1992 nieprzerwanie kierował pięcioma gabinetami.

Od 10 maja 1990 przewodniczył Europejskiej Partii Ludowej (w 2009 wybrany na kolejną kadencję). W 1993 stanął także na czele Europejskiej Unii Chrześcijańskich Demokratów (EUCD), doprowadzając do jej połączenia się z EPP w 1996. Skutecznie (wspólnie z Saulim Niinistö) przeprowadził też proces przyłączenia się do Europejskiej Partii Ludowej grupy Europejskiej Unii Demokratycznej (EDU). Udana fuzja wszystkich międzynarodowych zrzeszeń w ramach EPP doprowadziła od powstania największej transnarodowej frakcji w Parlamencie Europejskim.