34 lata w ekstraklasie (1967–2001) Nagła rezygnacja Hilla spowodowała, że magia, która powstała za jego udziałem wokół klubu, prysła, w związku z czym zespołowi z Coventry nie dawano większych szans na utrzymanie się w ekstraklasie angielskiej. Klub – z nowym menedżerem, Noelem Cantwellem – utarł jednak nosa takim głosom, broniąc swojej pozycji w najwyższej klasie rozgrywkowej w Anglii przez następne dwa lata, zaś w sezonie 1969/1970 notując doskonałe, szóste miejsce na koniec sezonu, co pozwoliło po raz pierwszy – i jak na razie ostatni – awansować drużynie z Coventry do europejskich pucharów. W Pucharze Miast Targowych (dzisiejszy Puchar UEFA) klub zakończył swój udział na II rundzie, odpadając w dwumeczu z niemieckim Bayernem Monachium.

Cantwell został zwolniony w 1972 roku. Na jego miejsce najpierw przybył Joe Mercer, a w 1974 roku Gordon Milne, który osiągnął z zespołem godne uwagi wyniki, takie jak 7. miejsce w lidze w sezonie 1977/1978 oraz półfinał Pucharu Ligi Angielskiej w sezonie 1980/1981. Główną postacią w klubie z Coventry w tamtejszym okresie był jednak nie trener, nie grający atrakcyjnie dla oka piłkarze, a Jimmy Hill, który w 1974 roku powrócił do klubu jako dyrektor zarządzający.