Osiągnął także sukcesy jako reprezentant kraju – w parze z Àlexem Corretją zdobył brązowy medal w deblu na igrzyskach olimpijskich w Sydney, a późną jesienią przyczynił się do pierwszego triumfu Hiszpanii w Pucharze Davisa.
Po nieco słabszym sezonie 2001 (finał w Kitzbühel przegrany z Nicolásem Lapenttim i 4 runda US Open) doczekał się wielkiego sukcesu w 2002 roku. Do turnieju French Open nie przystępował jako faworyt, klasyfikowany dopiero na 22. miejscu rankingu światowego. Costa pokonał w drodze do finału m.in. trzykrotnego triumfatora imprezy Gustavo Kuertena, Guillermo Cañasa i w półfinale Àlexa Corretję. W finale okazał się lepszy od Juana Carlosa Ferrero, wygrywając 6:1, 6:0, 4:6, 6:3. Wygrana dała mu awans na najwyższą pozycję w karierze – nr 6. Był także w finałach w Barcelonie (przegrał z Gastónem Gaudio) i Amersfoort (przegrał z Juanem Ignacio Chelą). Po raz drugi w karierze wystąpił w turnieju Tennis Masters Cup, jako trzeci Hiszpan obok Carlosa Moyi i Juana Carlosa Ferrero.