W pierwszych latach działalności próby orkiestry odbywały się w lokalu żydowskiego Stowarzyszenia Śpiewaczego „Hazomir”, a koncerty w Teatrze Wielkim oraz w Domu Koncertowym Vogla przy ul. Dzielnej 18 (dziś ul. Gabriela Narutowicza 20). Dom Koncertowy Vogla, w miejscu którego znajduje się współczesna siedziba, został wzniesiony w latach 1883–1887 według projektu architekta Otto Gehliga.
Po II wojnie światowej stała się Miejską Filharmonią. Od 1949 roku Państwową Filharmonią w Łodzi. Od 1984 roku nosi imię Artura Rubinsteina. 4 czerwca 1948 roku udostępniono Filharmonii świeżo odrestaurowany gmach przy ul. Narutowicza 20.
W latach 90. XX w., z powodu b. złego stanu technicznego budynku, czasowo przeprowadzona do tymczasowej siedziby przy ul. Piotrkowskiej 243 mieszczącej się w budynku sali koncertowej Łódzkiego Męskiego Towarzystwa Śpiewaczego. Gościnnie koncerty odbywały się także w Kościele Ewangelickim św. Mateusza. 10 grudnia 2004 roku otwarto nowy gmach Filharmonii zbudowany w miejscu starego, który uległ całkowitej rozbiórce (zdobył II nagrodę w konkursie „Budowa Roku 2004” oraz Nagrody SARP za najlepszy obiekt architektoniczny wzniesiony ze środków publicznych za rok 2004).