W 1996 roku Costa wygrał kolejne 3 turnieje, był w finale w Monte Carlo (pokonał m.in. Marcelo Ríosa i Andre Agassiego, przegrał z Thomasem Musterem), po raz pierwszy znalazł się w czołowej "dwudziestce" rankingu, a rok zakończył na pozycji nr 13.

W sezonie 1997 Hiszpan dotarł do ćwierćfinału Australian Open (przegrał w 5 setach z późniejszym zwycięzcą Pete'em Samprasem), wygrał turnieje w Barcelonie i Marbelli, przyczynił się do zdobycia przez Hiszpanię Drużynowego Pucharu Świata (pozostał w tej imprezie niepokonany). W kwietniu 1997 osiągnął pozycję nr 9. w rankingu ATP.

W 1998 roku Costa wygrał turnieje w Hamburgu i Kitzbühel, był w finale w Rzymie i Bournemouth. Jako rezerwowy wystąpił w turnieju ATP World Tour World Championships.

W 1999 roku triumfował w zawodach w Estoril, Gstaad i ponownie w Kitzbühel.

W 2000 roku tenisista hiszpański po raz pierwszy od kilku lat nie zdołał wygrać żadnego turnieju, był natomiast w ćwierćfinale French Open (pokonał m.in. Thomasa Enqvista i Lleytona Hewitta, przegrał z Franco Squillarim).