2 lutego 1963 został zwolniony ze stanowiska szefa GRU, a 7 marca 1963 uchwałą Rady Ministrów ZSRR „za utratę czujności politycznej” zdegradowany do stopnia generała majora (po aferze z płk. Pieńkowskim). 4 kwietnia 1962 uchwałą Prezydium Rady Najwyższej ZSRR został pozbawiony Orderu Suworowa I klasy przyznanego w 1944 za udział w wysiedlaniu Czeczenów i Inguszy, 12 marca 1963 został pozbawiony tytułu Bohatera Związku Radzieckiego i Orderu Lenina przyznanego mu wraz ze Złotą Gwiazdą Bohatera ZSRR, a 3 lutego 1964 został pozbawiony jednego z Orderów Czerwonego Sztandaru przyznanego mu w lipcu 1944 za udział w operacji wysiedlania Tatarów krymskich. 9 kwietnia 1965 Komitet Kontroli Partyjnej po rozpatrzeniu jego akt personalnych wykluczył go z partii za „łamanie prawa radzieckiego oraz wykorzystywanie pozycji służbowej do celów osobistych”, a 1 września 1965 rozkazem ministra obrony ZSRR Rodiona Malinowskiego został zwolniony do rezerwy.

W 1965 roku przeszedł w stan spoczynku, zmarł 1 lipca 1990.