Dwa lata później drużyna dotarła do półfinału Pucharu Zdobywców Pucharów, po zwycięstwach nad Shamrock Rovers, NAC Breda i Torpedo Moskwa. W sezonie 1970/71 Cardiff dotarł do ćwierćfinału tych rozgrywek, gdzie zmierzył się z hiszpańską drużyną – Realem Madryt. Pierwsze starcie miało miejsce na stadionie Ninian Park, gdzie 47 tysięcy kibiców oglądało jedno z najsłynniejszych zwycięstw w historii Cardiff, jednak zostali wyeliminowani, przegrywając w rewanżu 0:2. Klub grał w drugiej lidze przez 19 z 20 sezonów w latach 1962–1982, ale w sezonie 1975/76 nie udało się uniknąć spadku do trzeciej ligi na jeden sezon. Zostali zdegradowani do czwartej ligi w sezonie 1985-86, i pomimo dwukrotnego powrotu na wyższy poziom rozgrywek w 1996 roku, sezon ukończyli na 22. miejscu w tabeli. W 1995 roku, Cardiff i inne walijskie kluby rywalizujące w ligach angielskich otrzymały zakaz udziału w Pucharze Walii przez Football Association of Wales.