Po Mundialu 1994 popadł jednak w konflikt z selekcjonerem Bertim Vogtsem. Według niektórych komentatorów osobą, która przyczyniła się do jego eskalacji był Jürgen Klinsmann, który także nie lubił Matthäusa i już wcześniej doprowadził do odsunięcia go z funkcji kapitana Bayernu Monachium. W efekcie Matthäus przez prawie cztery lata nie otrzymywał powołań do kadry. Ominął go w ten sposób udział w Euro 1996, na którym Niemcy zdobyli mistrzostwo Europy.

Kolejne lata upłynęły pod znakiem powrotów do kadry. Vogts pogodził się z nim i powołał go ponownie w maju 1998 roku po tym, jak urazu doznał dotychczasowy podstawowy libero, Olaf Thon. Miesiąc później 37-letni Matthäus po raz piąty zagrał w mistrzostwach świata. Powrót nie był udany: Niemcy po porażce 0:3 z Chorwacją odpadli już w ćwierćfinale. Jednak, mimo porażki, dla Matthäusa liczyło się to, że pobił rekord występów w mundialach: rozegrał w nich dwadzieścia pięć spotkań i aż do Mundialu 2022 roku był liderem tej klasyfikacji (wyprzedził go Argentyńczyk Lionel Messi, który rozegrał 26 meczów w mistrzostwach świata w latach 2006–2022). Po meczu z Chorwacją po raz kolejny ogłosił zakończenie reprezentacyjnej kariery.