Przeniósł się do trzecioligowego wówczas Rayo Vallecano, z którym szybko awansował do drugiej ligi.
15 lutego 2010 roku po niezadowalających wynikach został zwolniony z Rayo i zastąpiony przez Felipe Miñambresa (dotychczasowego dyrektora sportowego w klubie); Globedia, 2010-02-15 (hiszp.)..
12 lipca tego samego roku został nowym trenerem Realu Betis, z którym awansował do Primera División już w pierwszym swoim sezoniePepe Mel, nuevo entrenador del Betis (Pepe Mel, new Betis coach); Sevilla Actualidad, 2010-07-12 (hiszp.).. Jego drużyna w sezonie 2011/2012 zajęła 13. miejsce, natomiast sezon później jego zespół uplasował się na 7 pozycji, a dzięki temu awansował do Ligi Europejskiej. 3 czerwca 2013 roku przedłużył swój kontrakt z Verdiblancos do 2017 roku. Mimo tego 2 grudnia 2013 roku został zwolniony z powodu słabych rezultatów. Jego miejsce zajął Juan Carlos Garrido; Realbetisbalompie.es, 2013-12-02 (hiszp.)..
9 stycznia 2014 roku został nowym szkoleniowcem West Bromwich Albion. Z angielskim klubem Mel podpisał półtoraroczny kontrakt, który został rozwiązany w maju 2014 za obopólną zgodą.