W czasie okupacji na Powązkach chowano, zwykle pod przybranymi nazwiskami, członków polskiego ruchu oporu, m.in. Jana Bytnara (jako Jana Domańskiego). Grzebano tam również jeńców radzieckich.
W latach 1945–1947 na cmentarz przenoszono ekshumowane ciała powstańców i osób cywilnych pogrzebanych na terenie miasta w czasie powstania warszawskiego. W zajmujących zwarty obszar kwaterach pochowano poległych w powstaniu żołnierzy Armii Krajowej, m.in. ze zgrupowań i batalionów „Zośka”, „Parasol”, „Golski”, „Gustaw”, „Kiliński”, „Miotła”, „Kryska”, a także żołnierzy Armii Ludowej. 1 sierpnia 1946, w drugą rocznicę wybuchu powstania, w kwaterze A-26 odsłonięto pomnik Gloria Victis. Ofiary cywilne grzebano w większości na utworzonym w sierpniu 1945 r. przy wschodniej granicy cmentarza wojskowego na obszarze 7,8 ha pierwszym w Warszawie cmentarzu bezwyznaniowym (komunalnym).
W 1946 r. cmentarz przejęła administracja wojskowa, co pozwoliło na uzyskanie środków na konserwację i uporządkowanie nekropolii.