W kwietniu 2008 został ogłoszony trenerem FC Schalke 04 na sezon 2008/2009 (kontrakt dwuletni). W marcu 2009 został zwolniony z tej funkcji.
W kwietniu 2009 podpisał trzyletni kontrakt z PSV Eindhoven, obejmując stanowisko pierwszego trenera od 1 lipca 2009. 12 marca 2012 PSV poinformowało o zakończeniu współpracy, po serii niekorzystnych wyników, a obowiązki trenera przejął Phillip Cocu.
Latem 2012 rozpoczął pracę w Vitesse. W marcu 2014 został wybrany następcą Ronalda Koemana w Feyenoordzie na sezon 2014/2015. 17 maja 2015 został zwolniony z funkcji trenera Feyenoordu ze skutkiem natychmiastowym.
W 2016 został trenerem Al Shabab z Dubaju (ZEA). W styczniu 2017 został zwolniony z tej funkcji.
W styczniu 2018 podjął pracę w izraelskim Maccabi Hajfa, a w listopadzie 2018 zrezygnował ze stanowiska.
W styczniu 2019 został trenerem RSC Anderlecht, jednak w kwietniu 2019 klub poinformował o rozstaniu z nim po 13 meczach.
20 maja 2022 PSV ogłosiło, że wraca do klubu w roli asystenta trenera Ruuda van Nistelrooija na sezon 2022/2023.