Joseph Nieuwendyk swój 1000. mecz w karierze rozegrał 20 stycznia 2002 wyjeżdżając na taflę w spotkaniu z Chicago Blackhawks. 2 miesiące później, 19 marca 2002, został oddany razem z Jamiem Langenbrunnerem do New Jersey Devils w zamian za Jasona Arnotta, Randy'ego McKaya i wybór w 1. rundzie Entry Draft w 2002.
New Jersey, Toronto i Floryda (2002–2006) New Jersey Devils, którzy sięgnęli po Puchar Stanleya w 2000 i dotarli do finału w kolejnym sezonie, pozyskali Nieuwendyka na niedługo przed play-offami 2002. Z Diabłami w rozgrywkach zasadniczych Joseph zdołał rozegrać 14 meczów punktując 11 razy, ale Devils zostali wyeliminowani w pierwszej rundzie przez Carolina Hurricanes. W sezonie 2002–2003 osiągnął 2 kamienie milowe. 17 stycznia 2003 strzelił swojego 500. gola w karierze, pokonując golkipera Hurricanes Kevina Weeksa. 23 lutego 2003 zdobył 1000. punkt w zwycięskim meczu z Pittsburgh Penguins. Joseph Nieuwendyk dotarł z drużyną Devils do finału Pucharu Stanleya, ale sam doznał kontuzji biodra, która nie pozwoliła mu wystąpić w najważniejszej serii sezonu. Devils pokonali drużynę Mighty Ducks of Anaheim, zdobywając najważniejsze trofeum ligi po raz trzeci w historii franczyzy. Dla Nieuwendyka był to trzeci Puchar Stanleya, każdy zdobyty z inną drużyną.