Kariera trenerska Na znalezienie pracy nie musiał czekać długo. Już kilka miesięcy po zakończeniu kariery piłkarskiej został mianowany szkoleniowcem klubu z Augsburga. Trenował go przez 5 lat, awansując w 1994 do Regionalligi. Rok później jednak zrezygnował z pracy w drużynie i przez rok pozostawał bez klubu. Następnym klubem w karierze szkoleniowca był SpVgg Greuther Fürth. Nie radził sobie tutaj jednak dobrze, spadając z drużyną do 2. Bundesligi. Efektem tego było zwolnienie z pracy na początku sezonu 1997-98. Przez następne cztery lata Veh pracował w SSV Reutlingen 05, doprowadzając klub z Badenii-Wirtembergii do 2. Bundesligi. 3 stycznia 2002 szkoleniowiec przejął Hansę Rostock. Klub nie radził sobie dobrze w Bundeslidze, zajmując kolejno 14., 13. i 9. miejsce w rozgrywkach. Na początku sezonu 2003-04 Veh ponownie wrócił do Augsburga, przejmując klub po wyrzuconym Kurcie Kowarcie. Pracował tu przez niecały rok, do października 2004. Następnie, przez prawie półtora roku szkoleniowiec pozostawał bez zatrudnienia. 11 lutego 2006 po Veha zgłosił się VfB Stuttgart. Niemiec zastąpił zwolnionego Giovanniego Trapattoniego. W pierwszym sezonie pracy w Stuttgarcie klub nie odniósł jednak żadnych sukcesów, zajmując dopiero 9. miejsce. Pomimo to, działacze VfB postanowili przedłużyć kontrakt z Vehem.