Zaangażowanie w ruch nazistowski Po demobilizacji ponownie podjął pracę w policji kryminalnej. W 1923 roku awansował na szefa Urzędu II Kripo w Stuttgarcie (Dienststelle II), jednostki policyjnej odpowiedzialnej za prowadzenie spraw dotyczących kradzieży, rabunków i wymuszeń. Cieszył się opinią energicznego i skutecznego śledczego, umiejącego rozwiązywać skomplikowane sprawy kryminalne. Znany był jednocześnie z surowości wobec podwładnych i brutalnego traktowania przesłuchiwanych. Jego bezwzględne metody wzbudziły nawet zainteresowanie wirtemberskiego Landtagu. W 1932 roku został awansowany do stopnia inspektora kryminalnego (Kriminalinspektor). W latach 30. uczęszczał na kursy Interpolu w Szwajcarii.
W 1922 roku wstąpił do NSDAP, lecz odszedł z partii po nieudanym puczu monachijskim (1923). Przez pewien czas był członkiem nacjonalistyczno-konserwatywnej DNVP. W 1931 roku ponownie wstąpił w szeregi NSDAP. Dwa lata później został również członkiem SA. O’Neil utrzymuje, że fakt ten nie przeszkodził mu podejmować ostrych interwencji policyjnych wobec nazistów oskarżonych o przestępstwa kryminalne.