Pod koniec 1921 roku, w lutym 1922 roku utworzono Państwowy Zarząd Polityczny i włączono go w struktury istniejącego już Ludowego Komisariatu Spraw Wewnętrznych RFSRR (NKWD RFSRR) jako GPU.
W GPU NKWD za kontrwywiad wojskowy odpowiedzialny był nadal Oddział Specjalny [OO], lecz podporządkowany on został pod Zarząd Tajno-Operacyjny [SOU], którego naczelnikami byli Wiaczesław Mienżynski luty/czerwiec 1922, Gienrich Jagoda czerwiec 1922 – listopad 1923. Przez następne lata aż do 1934 roku kontrwywiadem wojskowym zajmował się Oddział Specjalny Zjednoczonego Państwowego Zarządu Politycznego OGPU, przy Radzie Komisarzy Ludowych z podlegającymi mu Oddziałami Specjalnymi w guberniach i innych jednostkach organizacyjnych Rosji Sowieckiej.
Po utworzeniu NKWD ZSRR w 1934 roku kontrwywiadem wojskowym zajmowały się następujące piony NKWD
Od 10 lipca 1934 roku Oddział Specjalny [OO] Głównego Zarządu Bezpieczeństwa Państwowego (GUGB) w składzie Ludowym Komisariacie Spraw Wewnętrznych (NKWD) ZSRR z podlegającymi mu Oddziałami Specjalnymi w guberniach i innych jednostkach organizacyjnych Rosji Sowieckiej np. w Obwodowych Zarządach NKWD operował Oddział Specjalny UNKWD.