Kiedy Roncalli, już jako papież Jan XXIII, ogłosił nowy sobór powszechny, Montini zareagował z niedowierzaniem i powiedział: „Ten stary chłopiec nie wie, jakie gniazdo szerszeni wznieca”.
Kardynał 15 grudnia 1958 roku, na pierwszym konsystorzu papieża Jana XXIII, został mianowany kardynałem, z tytułem prezbitera Santi Silvestro e Martino ai Monti.
W 1960 roku papież wysłał go w drugą podróż do Stanów Zjednoczonych (pierwszą odbył w 1951) i Brazylii.
Blisko współpracował z papieżem w okresie przygotowań do soboru watykańskiego II oraz podczas pierwszej sesji Soboru. Jako kardynał był członkiem Kongregacji Konsystorialnej, Kongregacji Nadzwyczajnych Spraw Kościoła oraz Kongregacji ds. Seminariów i UniwersytetówD. Burkard, Paolo VI, [w:] A. Prosperi (red.) Dizionario storico dell’Inquisizione, Piza 2010, s. 1167–1168..
Wybór na papieża 21 czerwca 1963, w trzecim dniu (w piątym głosowaniu) konklawe po śmierci Jana XXIII, został wybrany na papieża. Przyjął imię Pawła VI. 30 czerwca kardynał Alfredo Ottaviani dokonał koronacji papieskiej.