Po otwarciu w 1930 roku w ówczesnym nowym budynku wystawowym umieszczono cztery muzea: Muzeum Niemieckie w północnym skrzydle, Muzeum Pergamońskie w środkowej części oraz Muzeum Bliskiego Wschodu i Islamu w południowym skrzydle. Pod koniec II wojny światowej, w 1945 roku muzeum ucierpiało podczas bombardowania Berlina. Część zbiorów uległa zniszczeniu, a liczne obiekty, w tym Fryz z Ołtarza pergamońskiego został wywieziony do Związku Radzieckiego. W latach 1948 do 1959 roku Muzeum zostało odbudowane. Wtedy też wróciła większość wywiezionych dzieł. Zamiast Muzeum Niemieckiego w północnym skrzydle umieszczono Zbiory Sztuki Starożytnej, Muzeum Sztuki Wschodu i Muzeum Sztuki Islamskiej. W latach 80. XX-wieku został zbudowany pawilon przy wejściu.
Przebudowa W 2000 roku ogłoszono konkurs na przebudowę Muzeum. Konkurs wygrała kolońska firma OM Ungers. Po śmierci Oswalda Ungersa w 2007 roku zlecono wykonanie projektu „Werkgemeinschaft Pergamonmuseum”. Przebudowę postanowiono zrealizować bez zamykania Muzeum. W pierwszej fazie budowy zaplanowane zostało odnowienie północnego skrzydła i środkowej części Muzeum. W drugiej fazie budowy zostanie zbudowane czwarte skrzydło i odnowione skrzydło południowe.