Następnie trenował: SuS Dinslaken (1993), Wattenscheid U-19 (1993–1995) oraz FC Rhade (1995–1996).
Następnie w 1996 roku z ramienia Rudiego Assauera został trenerem Schalke Gelsenkirchen U-19, którego trenował do 2002 roku oraz ponownie trenuje od 2003 roku, a także z którym odnosi największe sukcesy w karierze trenerskiej: trzykrotne mistrzostwo Niemiec juniorów starszych (2006, 2012, 2015), wicemistrzostwo Niemiec juniorów starszych (2018), dwukrotnie zdobył Puchar Niemiec juniorów (2002, 2005) oraz dotarł do finału Pucharu Niemiec juniorów 2013/2014, a także trenował zawodników, którzy stanowili człon seniorskiej drużyny klubu, a także reprezentacji Niemiec: Julian Draxler, İlkay Gündoğan, Mike Hanke, Benedikt Höwedes, Pierre-Michel Lasogga, Christoph Metzelder, Manuel Neuer, Mesut Özil, Christian Pander, Leroy Sané, a także reprezentanci innych krajów: reprezentant Polski – Sebastian Boenisch, reprezentant Bośni i Hercegowiny – Sead Kolašinac, reprezentant Kamerunu – Joël Matip, reprezentant Czech – Filip Trojan oraz reprezentant Peru – Carlos ZambranoMeet Norbert Elgert, the man who developed Mesut Ozil, Manuel Neuer, Sead Kolasinac and many more [data dostępu: 2017-10-20] .Norbert Elgert: Schalke’s academy guru behind Leroy Sane, Mesut Özil, Manuel Neuer, Leon Goretzka and many more ..