W 1968 roku pochowano szczątki ekshumowane ze zlikwidowanego cmentarza żydowskiego w Puławach. W latach 1968–1973 nekropolię przecięto obwodnicą miejską. Podczas prac wykopane szczątki ludzkie wyrzucano w pobliskie krzaki, gdzie miały być widoczne przez kilka następnych lat. Na przełomie lat 70. i 80. XX wieku powierzchnię cmentarza określono na 8,6 hektarów, z których wydzielono część czynną o powierzchni 0,528 ha.
W 1981 roku na terenie cmentarza pozostały nieliczne resztki dawnego muru, a część nagrobków była zdewastowana. W latach 80. XX wieku zwracano uwagę na to, że teren ten wykorzystywany był jako miejsce libacji alkoholowych i schadzek. Północna część wykorzystywana była także jako prowizoryczny parking.
Od końca lat 80. 9 listopada 1987 roku na terenie cmentarza odsłonięto pomnik Pamięci Ofiar Getta i Zwycięstwa nad Faszyzmem. W lipcu 1990 roku dokonano pochówku szczątków 190 osób odnalezionych w zbiorowej mogile na terenie Majdanu Tatarskiego.
Pod koniec lat 80. nekropolię objęła opieką Fundacja Sary i Manfreda Frenklów. W 1989 roku nastąpiło wpisanie obiektu do rejestru zabytków. W 1993 roku w północnej części cmentarza odsłonięto pomnik, w którego wnętrzu złożono urnę z prochami ofiar z obozu na Majdanku.