Podczas kampanii wrześniowej 1939 budynek nie był uszkodzony, jednak kilkaset szyb zostało rozbitych. 1 stycznia 1940, za zgodą niemieckich władz okupacyjnych obserwatorium podjęło pracę. 2 sierpnia 1944, po wybuchu powstania warszawskiego, niemieckie czołgi ostrzelały budynek niszcząc bramę wjazdową oraz obie kopuły obserwacyjne i sprzęt, który jeszcze się w nich znajdował. Niemcy z oddziału SS wypędzili z piwnic budynku, ukrywających się tam pracowników Obserwatorium i Ogrodu botanicznego oraz ich rodziny, a następnie podpalili budynek. W wyniku negocjacji Niemcy wycofali się i pozwolili na ugaszenie budynku. 11 sierpnia 1944 Niemcy wyprowadzili pozostałych w obserwatorium pracowników i ich rodziny do obozu przejściowego w Pruszkowie. W kilka dni później Niemcy podpalili budynek obserwatorium. Spłonęło całe wnętrze budynku, jego wyposażenie, zbiory, instrumenty obserwacyjne o muzealnej wartości, a także biblioteka z cennymi inkunabułami pochodzącymi z XVI i XVII wieku. Jedynym instrumentem, który przetrwał pożar był zegar wahadłowy firmy Siemens & Halske zawieszony w słupie wieży zachodniej. Budynek został zabezpieczony przed dalszym zniszczeniem przez Biuro Odbudowy Stolicy w 1945.