W 2004 został posłem do Parlamentu Europejskiego. W wyborach w 2009 skutecznie ubiegał się o reelekcję, uzyskując 47 470 głosów. W 2014 i 2019 wybierany na kolejne kadencje w wyborach europejskich. W VI i VII kadencji Europarlamentu wchodził w skład prezydium frakcji Europejskiej Partii Ludowej. We wrześniu 2019 został wybrany na wiceprzewodniczącego tej grupy w IX kadencji PE.
W VI kadencji pełnił funkcję wiceprzewodniczącego Komisji Rozwoju Regionalnego, a w VII kadencji był wiceprzewodniczącym Delegacji do spraw stosunków z Japonią. W IX kadencji Parlamentu Europejskiego został członkiem Komisji Budżetowej oraz zastępcą w Komisji Rozwoju Regionalnego oraz Komisji Kontroli Budżetowej. Obejmował w Europarlamencie nadto funkcje zastępcy koordynatora w Komisji Budżetowej z ramienia Europejskiej Partii Ludowej oraz stałego sprawozdawcy Parlamentu Europejskiego ds. wieloletnich ram finansowych UE. W różnych kadencjach zostawał współprzewodniczącym grupy roboczej Europejskiej Partii Ludowej do spraw dialogu międzykulturowego i religijnego oraz przewodniczącym URBAN Intergroup at the European Parliament, inicjatywy powołanej w PE w 2005.
W 2024 zrezygnował z kandydowania w kolejnych wyborach europejskich.