Za kierowanie działalnością grup operacyjnych NKWD „na rzecz zlikwidowania elementu antysowieckiego” w pasie działań 1 Frontu Białoruskiego został 21 kwietnia 1945 odznaczony Orderem Kutuzowa I klasy.
Po utworzeniu Ludowego Komisariatu Bezpieczeństwa Państwowego (NKGB) ZSRR w lutym 1941 objął stanowisko I-go zastępcy Wsiewołoda Mierkułowa Ludowego Komisarza Bezpieczeństwa Państwowego; sprawował owo stanowisko do 31 lipca 1941, czyli do rozformowania NKGB.
W latach 1941–1947 sprawował funkcję jednego z zastępców ludowego komisarza spraw wewnętrznych (NKWD) którym był Ławrientij Beria, od marca 1946 minister spraw wewnętrznych MWD.
Mianowany 6 marca 1945 roku głównym doradcą NKWD przy Ministerstwie Bezpieczeństwa Publicznego (MBP) osobiście, jako gen. Iwanow, przeprowadził 27 i 28 marca 1945 roku aresztowanie 16 przywódców Polskiego Państwa Podziemnego, postawionych następnie przed sądem w Moskwie (tzw. proces szesnastu). Kierował działaniami NKWD na ziemiach polskich i nadzorował masowe aresztowania byłych AK-owców. Wydatnie przyczynił się do rozbicia struktur AK i Polskiego Państwa Podziemnego. W Polsce pozostał do maja 1945 r.