W 2002 roku wystartował na igrzyskach olimpijskich w Salt Lake City, zajmując szóste miejsce w biegu na 5000 m. Na rozgrywanych cztery lata później igrzyskach w Turynie zdobył dwa medale. Wspólnie ze Svenem Kramerem, Rintje Ritsmą, Markiem Tuitertem i Erbenem Wennemarsem zdobył brązowy medal w wyścigu drużynowym. W startach indywidualnych był trzeci na dystansie 10 000 m i czwarty na 5000 m. W dłuższym biegu wyprzedzili go jedynie jego rodak Bob de Jong oraz Chad Hedrick, a w krótszym lepszy w walce o podium okazał się Enrico Fabris.
Zdobył cztery medale na wielobojowych mistrzostwach Europy: srebrne na ME w Erfurcie (2002) i ME w Heerenveen (2004) oraz brązowe podczas ME w Heerenveen (2005) i ME w Collalbo (2007).
Wielokrotnie stawał na podium zawodów Pucharu Świata, odnosząc przy tym sześć indywidualnych zwycięstw. W sezonie 2002/2003 zwyciężył w klasyfikacji końcowej na 5000 m/10 000 m, w sezonach 2000/2001, 2003/2004 i 2006/2007 był drugi, a sezony 2001/2002 i 2005/2006 ukończył na trzeciej pozycji.
Ustanowił pięć rekordów świataSpeed Skating News: Skater business card of Carl Verheijen .
Jego rodzice, Eddy Verheijen i Rieneke Verheijen-Demming oraz żona, Andrea Nuyt również uprawiali łyżwiarstwo szybkie.