Na początku 2000 roku Leroy odszedł do Olympique Marsylia. 12 stycznia zadebiutował w barwach nowego klubu w Ligue 1 w zremisowanym 0:0 spotkaniu z SC Bastia. W Olymique grał do końca rundy jesiennej sezonu 2001/2002, ale nie osiągnął większych sukcesów w tym klubie. Na wiosnę wrócił do PSG, do którego ściągnął go trener tego zespołu Luis Fernandez. W maju 2003 dotarł do finału Pucharu Francji, który wygrała drużyna AJ Auxerre, dzięki zwycięstwu 2:1. Latem po raz drugi odszedł z paryskiego klubu.
Kolejnym klubem w jego karierze był En Avant Guingamp. Debiut Jérôme'a w tym klubie nastąpił 13 września przeciwko Bastii (2:4). Na koniec sezonu Guingamp spadło jednak z ligi, a sam zawodnik odszedł do RC Lens. Tam także był podstawowym zawodnikiem i wystąpił już w pierwszej kolejce ligowej sezonu 2004/2005 w meczu z Toulouse FC (0:0). Latem 2005 poprzez Puchar Intertoto awansował z Lens do Pucharu UEFA. W styczniu 2006 za 500 tysięcy euro został sprzedany do izraelskiego Beitaru Jerozolima, który prowadził Fernandez. W Beitarze występował do czerwca tamtego roku.