W 1870 zarząd cmentarza został przejęty przez Gminę Żydowską w Warszawie. Wzniesiono nowy dom przedpogrzebowy, mur cmentarza, posadzono drzewa, wykopano kilka studni artezyjskich oraz zorganizowano regularną służbę cmentarną. W 1890 nekropolia znalazła się w granicach administracyjnych miasta. Pod koniec XIX wieku powiększono cmentarz od strony południowej.
Cmentarz był uważany za miejsce pochówku uboższych Żydów. Ustalone w 1855 opłaty były niższe o 75% niż na cmentarzu przy ulicy Okopowej, urządzano tam również wiele bezpłatnych pochówków. Ostatni pogrzeb miał miejsce przed zamknięciem getta warszawskiego, w listopadzie 1940. W tamtym czasie powierzchnia nekropolii wynosiła 18,5 ha.
W okresie okupacji Niemcy zniszczyli znajdujące się na cmentarzu budynki i ogrodzenie oraz dużą liczbę nagrobków. Opuszczona nekropolia ucierpiała również w wyniku działalności hien cmentarnych.
W czasie powstania warszawskiego w sierpniu 1944 Niemcy rozstrzelali pod murem cmentarza 40 Polaków. Miejsce egzekucji zostało upamiętnione w latach 50. XX wieku tablicą Tchorka ustawioną przy ul. Odrowąża.