W drużynie „Aptekarzy” grał trzy sezony (gdy był zdrowy prawie zawsze grał w pierwszej jedenastce), a największym osiągniętym sukcesem było zdobycie wicemistrzostwa Niemiec w 1999. Wtedy zdecydował się nie przedłużać kontraktu z Bayerem i za darmo odszedł do Hamburger SV.
Pierwszy sezon w HSV był udany nie tylko w wykonaniu Kovacia, ale całego zespołu, który zajął 3. miejsce dające prawo gry w kwalifikacjach do Ligi Mistrzów, a Kovač po raz kolejny potwierdził swoją skuteczność zdobywając 8 bramek w sezonie. Sezon 2000/2001 z kolei nie był udany dla zespołu z Hamburga. Klub co prawda awansował do Ligi Mistrzów, ale zajął 3. miejsce w grupie, zagrał w Pucharze UEFA, a następnie odpadł z AS Romą. Natomiast 4 bramki Kovača w 25 występach w Bundeslidze nie pomogły wiele zespołowi, który zajął odległe 13. miejsce w tabeli. Pomimo tego faktu latem 2001 Bayern Monachium zdecydował się wyłożyć 5,5 miliona euro za Kovacia. W Bayernie grał dwa sezony, ale nie miał nigdy pewnego miejsca w składzie i w dużej części meczów siedział na ławce bądź wchodził na boisko jako rezerwowy.