Od 1904 r. prowadzono starania o budowę własnej siedziby, do czego przyczynił się hojny zapis w testamencie Gustava Roethego z Berlina, byłego wydawcy wielkonakładowej grudziądzkiej gazety niemieckiej „Der Gesellige”. Działalność muzeum wspierał m.in. księgarz i wydawca Arnold Kriedte. Otwarcie nowego reprezentacyjnego gmachu przy ul. Legionów, mieszczącego również – do dzisiaj – bibliotekę miejską, nastąpiło w 1911 r. W odrodzonej Polsce w latach 1921–1939 Muzeum i Biblioteka Miejska pomyślnie rozwijały się pod zarządem Towarzystwa Czytelni Ludowych, a od 1922 r. honorowym kustoszem zbiorów był ks. dr. Władysław Łęga.
Podczas okupacji niemieckiej w latach 1940–1945 istniało Muzeum Miejskie (funkcję dyrektora sprawował dr Hans Bernhard Meyer), a jego charakter został podporządkowany doraźnym celom hitlerowskiej propagandy politycznej. Po wojnie ocalała zaledwie 1/3 zbiorów. Muzeum w Grudziądzu zostało ponownie otwarte dla publiczności w 1946 r. Od roku 1956 siedzibą Muzeum jest odbudowany ze zniszczeń wojennych gmach dawnego klasztoru benedyktynek przy ul. Wodnej 3/5. W 1961 r. muzeum przeszło znaczącą reorganizację, a w latach późniejszych w skład muzeum weszły zabytkowe spichrze i tzw. Pałac Opatek, mieszczące kolejne sale ekspozycyjne.