W eliminacjach do mundialu 2002 Norwegowie dali się wyprzedzić Polsce, Ukrainie i Białorusi. Nowe pokolenie zawodników nie potrafiło zastąpić starszych graczy, a dotychczasowi liderzy – Flo, Solskjær i Carew – stracili miejsca w drużynach klubowych. Kolejne kwalifikacje, do Euro 2004, również podopieczni Semba przegrali, tym razem w barażach z Hiszpanią. Po ostatnim meczu do dymisji podał się selekcjoner Semb.
Jego następcą został Åge Hareide. Pierwszym sprawdzianem jego szkoleniowych umiejętności była walka o awans do mundial 2006, ale Norwegowie ponownie zawiedli (porażka w barażach z Czechami). W eliminacjach Euro 2008 do ostatniej kolejki rywalizowali o występ na austriacko-szwajcarskich boiskach, jednak ostatecznie zajęli trzecie miejsce w grupie, za Grecją i Turcją.
W kwalifikacjach do mundialu 2010 grali z Holandią, Szkocją, Islandią oraz z Macedonią. Eliminacje Norwegowie rozpoczęli także pod wodzą Hareidego, jednak po słabym starcie (2:2 z Islandią, 0:0 ze Szkocją i 0:1 z Holandią) w grudniu 2008 roku selekcjoner złożył dymisję. Zastąpił go twórca największych sukcesów w historii norweskiej kadry 68-letni Egil Olsen.