W lutym 2007 roku Chorwat doszedł do finału w San José. Mecz o tytuł przegrał z Andym Murrayem. W kwietniu Karlović wygrał swój pierwszy turniej z cyklu ATP World Tour w singlu, podczas rywalizacji na ziemnych kortach w Houston. Po drodze wyeliminował Tommy’ego Haasa, a w finale wynikiem 6:4, 6:1 Mariano Zabaletę. Latem Chorwat triumfował w Nottingham, na nawierzchni trawiastej. W drodze po tytuł pokonał m.in. Dmitrija Tursunowa, a w rundzie finałowej Arnauda Clémenta. W październiku Karlović zwyciężył w halowych rozgrywkach w Sztokholmie, po wygranej w finale nad Thomasem Johanssonem. Tegoż samego roku osiągnął ponadto finał gry podwójnej w Indianapolis, partnerując Tejmurazowi Gabaszwilemu.
Czwarty singlowy tytuł Karlović wywalczył w czerwcu 2008 roku w Nottingham, broniąc tym samym zwycięstwa z 2007 roku. Chorwat po drodze pokonał m.in. w półfinale Gaëla Monfilsa, a w finale Fernando Verdasco. Rok później Karlović osiągnął po raz pierwszy w karierze ćwierćfinał turnieju wielkoszlemowego, podczas Wimbledonu. Wyeliminował wcześniej dwóch zawodników z czołowej „dziesiątki” rankingu, Jo-Wilfrieda Tsongę i Fernando Verdasco;