W 1998 roku brał udział igrzyskach olimpijskich w Nagano, zdobywając złote medale na dystansach 5000 i 10 000 m, ustanawiając jednocześnie rekordy świata. W krótszym biegu wyprzedził swego rodaka Rintje Ritsmę i reprezentującego Belgię Barta Veldkampa, a w dłuższym kolejno Boba de Jonga i Rintje Ritsmę. Podczas rozgrywanych cztery lata igrzysk olimpijskich w Salt Lake City Romme wystartował tylko w biegu na 10 000 m. Rywalizację ukończył na drugiej pozycji, ustanawiając nowy rekord olimpijski. W biegu tym zwyciężył jego rodak, Jochem Uytdehaage, a trzecie miejsce zajął Norweg Lasse Sætre.
Wielokrotnie stawał na podium zawodów Pucharu Świata, odnosząc przy tym 22. zwycięstwa. W sezonach 1997/1998, 1999/2000, 2000/2001 i 2001/2002 zwyciężał w klasyfikacji końcowej na 5000 m/10 000 m, w sezonach 1995/1996 i 1996/1997 był drugi, a sezon 2004/2005 ukończył na trzeciej pozycji.
Ustanowił dziewięć rekordów świataSpeed Skating News: Skater business card of Gianni Romme .. Został uznany Holenderskim Sportowcem Roku w 1998 roku.