Od stycznia 1979 w grupie generałów inspektorów Ministerstwa Obrony ZSRR. W grudniu 1968 obronił pracę doktorską w Akademii Wojskowej im. M. Frunzego w Moskwie. Zmarł w Moskwie, pochowany na tamtejszym Cmentarzu Nowodziewiczym. Posiadał kilkadziesiąt odznaczeń radzieckich i zagranicznych (amerykańskich, bułgarskich, węgierskich, rumuńskich, czechosłowackich, enerdowskich, chińskich, kubańskich, mongolskich) w tym i polskich. W czasie II wojny światowej dwunastokrotnie otrzymywał pisemne podziękowanie Naczelnego Wodza (Stalina). W czasie Parady Zwycięstwa, 24 czerwca 1945 na placu Czerwonym w Moskwie, prowadził jeden z batalionów 2 Frontu Ukraińskiego.
Wkład w rozwój WDW Gen. Margiełow był jednym z najbardziej charyzmatycznych dowódców w historii sił zbrojnych ZSRR, który odcisnął głębokie piętno na organizacji i charakterze radzieckich wojsk powietrznodesantowych. W ciągu swojej 25-letniej służby na stanowisku dowódcy WDW, z pozostających w cieniu głównych rodzajów sił zbrojnych, radzieckie wojska powietrznodesantowe uczynił pierwszoplanowym elementem radzieckiej doktryny wojennejZaloga…, s. 120.. Obejmując w 1957 dowództwo nad nimi, otrzymał do dyspozycji właściwie lekką piechotę, bez należytego wsparcia ogniowego i z ograniczonymi możliwościami przerzutu przy pomocy samolotów Li-2, Ił-14, Tu-2 i Tu-4.