27 maja 1948 roku synagoga została celowo zniszczona przez jordańskich żołnierzy Legionu Arabskiego podczas bitwy o Stare Miasto Jerozolimy, będącej częścią I wojny izraelsko-arabskiej.
Po zdobyciu przez Izrael wschodniej Jerozolimy w czasie wojny sześciodniowej w 1967 roku, pojawiły się projekty budowy nowej synagogi na miejscu zniszczonej budowli (m.in. Louisa Kahna, znanego amerykańskiego architekta), jednak żaden z nich nie został ostatecznie zrealizowany. W 1978 roku wybudowano nad ruinami synagogi łuk pamiątkowy, będący w istocie rekonstrukcją jednego z czterech kamiennych łuków, które niegdyś podpierały potężną kopułę synagogi. Łuk ten z czasem stał się znaną atrakcją turystyczną Dzielnicy Żydowskiej, uwiecznianą na fotografiach i pocztówkach. W 2000 roku rząd Izraela zaaprobował plany odbudowy synagogi. Prace budowlane nad rekonstrukcją synagogi Churba rozpoczęły się pod koniec 2005 roku, z kolei 15 marca 2010 roku odbudowana synagoga została oddana do użytku.