W latach 2001–2004 pełnił funkcję wiceprzewodniczącego centroprawicowej Partii Koalicji Narodowej. W 2004 został jej przewodniczącym, zastępując Ville Itälę. Kierowane przez niego ugrupowanie w 2007 zajęło drugie miejsce w wyborach krajowych, zaraz za centrystami premiera Mattiego Vanhanena. Jyrki Katainen wprowadził formację do nowej koalicji rządowej, w ramach której 19 kwietnia 2007 objął stanowisko wicepremiera oraz ministra finansów. Utrzymał zajmowane stanowisko również w powołanym 22 czerwca 2010 rządzie Mari Kiviniemi. W marcu 2005 został jednym z wiceprzewodniczącym Europejskiej Partii Ludowej.
W wyborach w 2011 Partia Koalicji Narodowej pod jego przewodnictwem uzyskała najwięcej mandatów (44) w parlamencie. Jyrki Katainen otrzymał misję utworzenia nowego rządu. Po długich negocjacjach koalicję powołały Partia Koalicji Narodowej, Socjaldemokratyczna Partia Finlandii, Sojusz Lewicy, Liga Zielonych, Szwedzkiej Partii Ludowej i Chrześcijańscy Demokraci. Jyrki Katainen został 22 czerwca 2011 zatwierdzony przez parlament, uzyskując 118 głosów za (przy 72 przeciw).