Kariera trenerska Herbert karierę trenerską rozpoczął rok po zakończeniu kariery piłkarskiej w zespole Papakura City. Jako trener tej drużyny pracował do 1992. Od 1993 trenował przez lata drużynę Papatoetoe AFC. W 1996 rozpoczął pracę w klubie Central United. Poprowadził ten zespół do mistrzostwa New Zealand National Soccer League w 1999 oraz zdobycia Pucharu Nowej Zelandii w latach 1997–1998.
Sukcesy krajowe Herberta jako trenera przykuły uwagę krajowej federacji piłkarskiej. W 1999 został trenerem Nowej Zelandii U-23. Od 2001 pełnił również rolę asystenta selekcjonera reprezentacji Nowej Zelandii, a także od 2003, trenera kadry U-17. Wszystkie trzy funkcje łączył do 2005, kiedy to zastąpił Micka Waitta na stanowisku reprezentacji Nowej Zelandii. Podczas Pucharu Narodów Oceanii 2008 poprowadził drużynę do pierwszego od sześciu lat mistrzostwa kontynentu. Podczas turnieju rozgrywanego systemem grupowym, w którym udział brały 4. zespoły, Nowa Zelandia doznała tylko jednej porażki.
Rok później Nowa Zelandia zagrała po raz pierwszy w swojej historii w Pucharze Konfederacji. Ekipa prowadzona przez Herberta zremisowała bezbramkowo z Irakiem oraz przegrała z Hiszpanią 0:5 i RPA 0:2, kończąc turniej na ostatnim miejscu w grupie.