Budowa rozpoczęła się w 2008 roku. Federalny Cmentarz Wojskowy został uroczyście otwarty 21 czerwca 2013 roku. Tego dnia z honorami pochowany został tam nieznany żołnierz z czasów wielkiej wojny ojczyźnianej, który poległ w walkach o Smoleńsk. 30 sierpnia 2013 roku patriarcha Cyryl przewodniczył uroczystościom wmurowania kamienia węgielnego pod budowę cmentarnej cerkwi, która dedykowana będzie św. Sergiuszowi z Radoneża. Pierwszą pochowaną na cmentarzu zasłużoną osobą został Michaił Kałasznikow. Pogrzeb odbył się 27 grudnia 2013 roku, a obrzędom przewodniczył metropolita kruticki i kołomieński Juwenaliusz. Istnieje możliwość, że w przyszłości na cmentarz zostaną przeniesione ciała i prochy osób pochowanych na Cmentarzu przy Murze Kremlowskim, m.in. Włodzimierza Lenina, Józefa Stalina, Leonida Breżniewa i Jurija Gagarina i innych dygnitarzy z czasów radzieckich.
Kryteria pochówku W lutym 2004 roku rząd Federacji Rosyjskiej ustalił ścisłe kryteria wyboru osób, które mogą zostać pochowane na Federalnym Cmentarzu Wojskowym.