Podczas II wojny światowej Niemcy zdewastowali synagogę i urządzili w jej budynku odwszalnię. W późniejszym czasie została spalona, lecz jej konstrukcja się nie zawaliła. Po wyzwoleniu Warszawy synagoga została zaadaptowana na potrzeby radzieckiego szpitala wojskowego.
Po wojnie synagoga została prowizorycznie zabezpieczona. 21 lipca 1945 odbyło się w niej pierwsze powojenne nabożeństwo. 9 marca 1949 opinią Urzędu Konserwatorskiego synagoga została uznana za zabytek, który powinien odbudować Centralny Komitet Żydów w Polsce. Ze względu na brak środków finansowych Komitet został jednak zmuszony do zrezygnowania z odbudowy.
W związku z brakiem funduszy na odbudowę Komitet planował wyburzyć synagogę i postawić na jej miejscu nową lub urządzić na jej miejscu zieleniec z kwiatami. Z planami tymi zgadzał się Urząd do Spraw Wyznań, jednak ówczesny Naczelny Architekt Warszawy, Józef Sigalin, był przeciw i proponował, by w synagodze urządzić inną instytucję.
W 1961 władze miasta nakazały zburzyć bożnicę, uzasadniając decyzję fatalnym stanem budowli. Według innych źródeł synagoga mogła zostać rozebrana już kilka lat wcześniej, w 1955.