KGB istniał od marca 1954 do października 1991. Był następcą m.in. CzeKa i NKWD. W propagandzie komunistycznej często określany jako „tarcza i miecz partii” (). W trakcie pieriestrojki i w czasie rozpadu ZSRR był stopniowo dzielony, a wiele komórek organizacyjnych zlikwidowano.
Główne komórki organizacyjne KGB zostały przekształcone w Federacji Rosyjskiej w szereg instytucji: Służba Wywiadu Zagranicznego Federacji Rosyjskiej, Federalna Służba Bezpieczeństwa Federacji Rosyjskiej, Federalna Służba Ochrony Federacji Rosyjskiej.
Do głównych zadań KGB należało gromadzenie informacji wywiadowczych poza granicami Związku Radzieckiego, ochrona kontrwywiadowcza armii, marynarki wojennej i lotnictwa oraz samego Komitetu, ochrona granic państwowych ZSRR, nadzór nad obiektami nuklearnymi i większymi ośrodkami przemysłowymi tego kraju, ochrona budynków rządowych oraz dostojników partyjnych w kraju i poza jego granicami, w tym ambasad i konsulatów.