Rok później przejął obowiązki pierwszego trenera Watford FC. W ciągu pięciu lat przeprowadził klub należący do znanego piosenkarza Eltona Johna z trzeciej do pierwszej ligi. W pierwszym sezonie w ekstraklasie zespół zajął drugie miejsce, tuż za Liverpoolem. W 1984 roku Taylor awansował z nim także do finału Pucharu Anglii, w którym przegrał 0:2 z Evertonem.
Po dziesięciu latach pożegnał się z Watford i zdecydował się przyjąć ofertę z Aston Villi, która właśnie spadła z pierwszej ligi. Już w pierwszym sezonie spędzonym na Villa Park Taylor świętował powrót do ekstraklasy.
W lipcu 1990 roku został wybrany na selekcjonera reprezentacji Anglii. Taylor wywalczył z drużyną narodową awans do Mistrzostw Europy 1992, ale podczas tego turnieju Anglicy zaprezentowali się słabo. Zespół, o którego obliczu decydowali podopieczny Taylora z Aston Villi David Platt i grający po raz ostatni na wielkim turnieju Gary Lineker, zremisował bezbramkowo dwa pierwsze mecze (z Danią i Francją), a w ostatnim spotkaniu uległ 1:2 Szwecji i musiał wracać do domu już po fazie grupowej. Selekcjoner stał się obiektem zajadłej krytyki prasy, która wypominała mu językowe gafy i brak ufności w umiejętności Linekera, którego w meczu z gospodarzami imprezy zdjął z boiska już po sześćdziesięciu dwu minutach.