Z inicjatywy Klinsmanna doszło także do zmiany koloru koszulek reprezentacji.
W czasie mistrzostw świata większość niemieckich kibiców i dziennikarzy chwaliła selekcjonera, szczególnie za wprowadzenie ofensywnego, efektownego stylu gry. Niemcy, którzy byli głównymi faworytami do zwycięstwa w turnieju, w półfinale ulegli po dogrywce przyszłym triumfatorom Włochom, a potem w meczu o trzecie miejsce pokonali Portugalczyków. 12 lipca 2006 roku, kilka dni po zdobyciu brązowego medalu, Klinsmann wbrew opinii publicznej podał się do dymisji. Od lipca 2008 do 27 kwietnia 2009 był trenerem Bayernu Monachium. 29 lipca 2011 został trenerem reprezentacji Stanów Zjednoczonych.
2012–2013 przeprowadził USA po udanych kwalifikacjach do Mistrzostw Świata w Brazylii. Na samym turnieju doprowadził reprezentację USA do 1/8 finału. W grupie jego drużyna zajęła 2. miejsce pokonując Ghanę 2:1, remisując z Portugalią 2:2 i przegrywając z Niemcami 0:1. Stany Zjednoczone przegrały w 1/8 finału z Belgią wynikiem 1:2.
Klinsmann zaskoczył wszystkich decyzją o braku powołania na Mistrzostwa Świata w Brazylii dla największej gwiazdy Stanów Zjednoczonych Landona Donovana.
27 listopada 2019 roku został ogłoszony nowym trenerem Herthy BSC.