Uniknął czystek, które dotknęły w tym czasie tysiące oficerów Armii Czerwonej i organów bezpieczeństwa i wywiadu tylko dlatego, że (jak o nim mówili) był „przybocznym pieskiem” Stalina. Przez kolejne lata stał na czele organów odpowiedzialnych za ochronę rządu, czyli kolejno Wydziału I GUGB/NKWD 1938-1941, Wydziału I NKGB luty-lipiec 1941, I Oddziału NKWD 1942-1943, Szóstego Zarządu NKGB, oraz 6 Zarządu Ministerstwa Bezpieczeństwa Państwowego ZSRR (MGB). Także pod koniec grudnia 1946 roku został szefem Głównego Zarządu Ochrony MGB, sprawował to stanowisko do 29 kwietnia 1952 roku. Następnie w grudniu, w wyniku intrygi Ławrientija Berii, został zdymisjonowany, wykluczony z WKP(b) i mianowany zastępcą komendanta łagru w Swierdłowsku. Wkrótce jednak aresztowany pod zarzutem utrzymywania kontaktów z podejrzanym o szpiegostwo W. Stenbergiem. Został 17 stycznia 1955 roku skazany na 10 lat zesłania do Krasnogradu (wyrok zmniejszono do pięciu lat w następstwie amnestii) oraz degradację i utratę odznaczeń wojskowych.