Podział kompetencji pomiędzy poszczególnymi referatami Gestapo był następujący: Referat A – zwalczanie polskiego ruchu oporu Referat B – kościoły, wolnomularstwo, sprawy żydowskie Referat C – wywiad, zakładnicy, więzienie śledcze, emigranci i cudzoziemcy Referat E – kontrwywiad, szpiegostwo gospodarcze, sprawy graniczne i paszportowe, dezerterzy z armii niemieckiej Referat N – zbieranie i analiza informacji, donosy i meldunki konfidentów
O tym, jak bardzo były rozbudowane struktury Gestapo w okupowanej Warszawie, może świadczyć fakt, że odnaleziona po wojnie wewnętrzna książka telefoniczna z 1943 roku zawierała 235 numerów telefonów IV Wydziału.
Pozostałą część budynku w al. Szucha 25 zajmowała Służba Bezpieczeństwa (Sicherheitsdienst, SD) na Warszawę oraz dystrykt warszawski. Gmach był pilnie strzeżony przez łańcuch posterunków, dodatkową ochronę zapewniały jednostki tzw. policji porządkowej i ochronnej (Ordnungspolizei) stacjonujące w sąsiednim gmachu Najwyższej Izby Kontroli (nr 23). W późniejszym okresie ulicę z obu stron przegrodzono szlabanami, przy których wybudowano betonowe bunkry.