W 2006 roku był uczestnikiem mistrzostw świata, na których Mertesacker rozegrał sześć spotkań, a Niemcy zajęli trzecią pozycją. Na tym turnieju, po wygraniu po rzutach karnych ćwierćfinałowego meczu z Argentyną, zawodnik przeciwników – Leandro Cufré zaatakował Mertesackera, gdy ten schodził z boiska. Mertesacker doznał wówczas drobnego urazu uda, a także został kopnięty w pachwinę. Za ten atak Argentyńczyk został ukarany grzywną w wysokości 10 tysięcy franków szwajcarskich i zawieszeniem na cztery mecze.
W 2008 był członkiem kadry na mistrzostwach Europy, w których zagrał sześć razy, a jego reprezentacja zajęła 2. miejsce, po przegraniu finałowego meczu z Hiszpanią 0:1.
W 2010 zdobył brązowy medal na mistrzostwach świata. W 2014 wygrał z reprezentacją kolejne mistrzostwa świata, po czym 15 sierpnia zakończył karierę reprezentacyjną.
Sukcesy Werder Brema Wicemistrzostwo Niemiec: 2007/08 Puchar Niemiec: 2008/09 Puchar Ligi Niemieckiej: 2006
Arsenal Puchar Anglii: 2013/14, 2014/15, 2016/17 Tarcza Wspólnoty: 2015
Niemcy Mistrzostwo Świata: 2014 3. miejsce na Mistrzostwach Świata: 2006, 2010 Wicemistrzostwo Europy: 2008 3.