Historia Żydzi mieszkali w Fordonie już co najmniej od XVI w. i zapewne już wówczas funkcjonował ich odrębny cmentarz. Wizytacja kościelna z 1781 r. określa, że posiadali go od niepamiętnych czasówGąsiorowski Bogdan Paweł, Zyglewski Zbigniew: Cmentarze fordońskie [w.] Dzieje Fordonu i okolic. Praca zbiorowa pod red. Zdzisława Biegańskiego. Kujawsko-Pomorskie Towarzystwo Kulturalne. Bydgoszcz 1997. .
Cmentarz umiejscowiony był na polu należącym do miasta, w odległości 600 kroków od kościoła parafialnego św. Mikołaja. Na cmentarzu tym grzebano również Żydów mieszkających w Bydgoszczy, należących wówczas do kahału fordońskiego. Żydzi bydgoscy zakupili w 1816 r. grunt na założenie swojego cmentarza, który funkcje grzebalne pełnił od 1819 r.
Na cmentarzu fordońskim, funkcjonującym bardzo długo, znajdowało się wiele nagrobków w kształcie ustawionych pionowo płyt (macewy) z napisami przeważnie hebrajskimi oraz charakterystyczną symboliką. Na grobach Cohenów (wywodzących się z rodu kapłańskiego Aarona) rzeźbiono ręce podniesione do błogosławieństwa. Na macewach lewitów, którzy w świątyni pomagali przy składaniu ofiar, przedstawiano dzban i misę służące do obmywania rąk kapłanom przed błogosławieństwem. Księgi będące wyrazem wykształcenia i mądrości umieszczano na nagrobkach rabinów i uczonych.