Zaraz po wybudowaniu synagogi obok niej powstała szkoła kantorów, której absolwenci byli znani w całej Europie. 17 stycznia 1937 przy synagodze otwarto Instytut Judaistyczny. Kilka lat przed wojną, ze względu na duże koszty utrzymania i wielką hojność gminy żydowskiej na rzecz synagogi, dokonano nowego aktu prawnego, w oparciu o który stała się ona własnością gminy.
Synagoga na początku II wojny światowej została ograbiona z wszystkich cennych przedmiotów i następnie 25 grudnia 1939 spalona. Po zakończeniu wojny zachowane mury synagogi przez kilka lat niszczały, a w głównej sali modlitewnej, dzieci z pobliskich domów urządziły sobie boisko do gry w piłkę nożną.
W 1954 Orkiestra Symfoniczna zwróciła się do Kongregacji Wyznania Mojżeszowego w Częstochowie z propozycją przejęcia budynku synagogi, celem wyremontowania go i przeznaczenia na filharmonię.
31 grudnia 1954 zarząd Kongregacji Wyznaniowej bezpłatnie przekazał ruiny synagogi na rzecz Miejskiej Rady Narodowej. Zaznaczono jednak że budynek musi zostać odbudowany w takim stylu, jaki posiadała przed spaleniem. W 1955 na zgliszczach synagogi wybudowano zupełnie nowy, modernistyczny budynek Filharmonii Częstochowskiej im.