Został zwolniony z klubu, po czym przeniósł się do występującego w Tercera División Granada 74, jednak w sezonie 1998/99 wrócił do występującego w tej samej lidze CF Guadix, z którym awansował do Segunda División B. Następnie reprezentował barwy: RCD Mallorki B w Segunda División B w sezonie 1999/2000 (trenerem był Juan Ramón López) oraz zespoły Segunda División, UE Lleida w sezonie 2000/01 i CD Xerez w latach 2001–2003, w którym trenerem był jeden z idoli Rubialesa z dzieciństwa, Bernd Schuster, a po sezonie 2002/03 opuścił klub z powodu zaległości finansowych wobec niego. Następnie został zawodnikiem UD Levante, z którym pod wodzą trenera Manuela Preciado w sezonie 2003/04 uzyskuje po 40 latach awans do Primera División, po czym Manuel Preciado zostaje zastąpiony przez Bernda Schustera, który trenował Rubialesa w CD Xerez. Debiut w Primera División zaliczył 29 sierpnia 2004 w zremisowanym 1:1 meczu wyjazdowym z Realem Sociedad. Jednak UD Levante po zajęciu 18. miejsca w sezonie 2004/05 spada do Segunda División, jednak w sezonie 2005/06 ponownie awansuje po Primera División, po czym klub przedłuża z Rubialesem kontrakt o kolejne trzy lata, pomimo jego kontuzji lewego kolana.