Architektura Gmach muzeum znajduje się w południowej części placu Jana III Sobieskiego w Bytomiu. Składa się on z dwóch skrzydeł (ekspozycyjnego i administracyjnego) połączonych przewiązką, niższą od obu skrzydeł o jedną kondygnację. Skrzydło administracyjne przylega do budynku Miejskiej Biblioteki Publicznej, przy wejściu do niego zachował się konowiąz. Budynek ma dwa wewnętrzne dziedzińce. Powierzchnia zabudowy wyniosła 2 302 m², natomiast pierwotna kubatura budynku to 39 944,01 m³ (bank i muzeum) i 13 874 m² (biblioteka i pozostałe instytucje kulturalne). Ściany wzniesiono z cegły z Patoki i Bytomia oraz z pustaków.
Elewację pokrywa klinkierowa cegła licówka, znajdował się na niej neon z nazwą banku. Filary, fronton oraz inne detale wykonano z ciosanego wapienia muszlowego. Rastrową fasadę w stylu Neues Bauen tworzy żelbetowa kratownica wsparta na filarowym portyku (niczym „klasyczna” kolumnada filarowa) zakończona oblicowanym cegłą korpusem, a dwie dolne wycofane kondygnacje tworzą podcienie.