Największy sukces w karierze Szwed odniósł w styczniu 2002 roku, wygrywając wielkoszlemowy Australian Open. Johansson pokonał w drodze po tytuł m.in. Czecha Jiříego Nováka, a w finale okazał się lepszy od Rosjanina Marata Safina. Sukces w Australii pozwolił mu m.in. na udział w turnieju Tennis Masters Cup w Szanghaju w listopadzie 2002 roku (był rezerwowym i zastąpił w jednym meczu Andre Agassiego). Zanotował także znaczący awans w rankingach światowych, w czerwcu 2002 był notowany na pozycji nr 7. na świecie; w klasyfikacji ATP Race, obejmującej wyniki tylko z bieżącego roku, zaraz po Australian Open 2002 wyszedł na krótko na pozycję lidera (28 stycznia 2002).
Rok 2003 był głównie okresem w karierze Johanssona, kiedy leczył kontuzje; w 2004 roku zwyciężył ponownie w Sztokholmie, wygrywając w finale z Andre Agassim. Ponadto doszedł do finału w Nottingham (przegrana z Paradornem Srichaphanem). W lipcu 2005 roku, po dotarciu do półfinału wielkoszlemowego Wimbledonu, powrócił do czołowej dziesiątki rankingu światowego. W październiku t.r. wygrał po raz kolejny halowy turniej w Petersburgu, pokonując w finale Niemca Nicolasa Kiefera. W sezonie 2006 osiągnął finał w Petersburgu (porażka z Mario Ančiciem), a w 2007 roku w Sztokholmie (porażka z Ivo Karloviciem).