Okazał się on wówczas zbyt duży, dlatego decyzję cofnięto i placówka otrzymała lokal piętro niżej, które bardzo szybko przystosowano do funkcji wystawienniczych.
Społeczne Muzeum Historii Katowic zostało otwarte 21 lipca 1976 roku. W lokalu usytuowano wystawę Droga Katowic do Polski Ludowej według scenariusza historyków Jana Przewłockiego i Władysława Zielińskiego, salę wystaw zmiennych oraz biuro muzeum. Na wystawie zaprezentowano wszystkie eksponaty, które zostały zgromadzone przez twórców Izby Muzealnej, w tym zdjęcia i dokumenty, stroje górnośląskie, ręczną maszynę drukarską z przełomu XIX i XX wieku czy wypożyczoną z Muzeum Górnośląskiego w Bytomiu rzeźbę Bolesława Śmiałego autorstwa Stanisława Szukalskiego. Społeczne Muzeum Historii Katowic nie miało wówczas statutu ani budżetu oraz nie zatrudniało pracowników.
W lutym 1978 roku Muzeum Górnośląskie w Bytomiu oddelegowało Macieja Wojciechowskiego, by wspólnie z Wydziałem Kultury Urzędu Miejskiego w Katowicach i Katowickiem Towarzystwem Społeczno-Kulturalnym opracować projekt założenia programowo-organizacyjnego Muzeum Historycznego w Katowicach. Powstał też projekt statutu.