Wbrew obowiązującemu w Republice Weimarskiej prawu, które zakazywało policjantom i urzędnikom członkostwa w partiach politycznych, wstąpił w szeregi Socjaldemokratycznej Partii Niemiec.
Po ukończeniu kursu oficerskiego został awansowany do stopnia komisarza kryminalnego i skierowany do pracy w biurze Kriminalpolizei w Göppingen. Przez pewien czas pracował także w biurze Kripo w Schwenningen. W tym okresie aktywnie uczestniczył w zwalczaniu nazistów – członków NSDAP oraz jej bojówek SA. Z tego powodu przylgnął do niego przydomek Nazifresser („pożeracz nazistów”).
Gdy w styczniu 1933 roku Adolf Hitler przejął władzę w Niemczech, lokalni naziści zażądali usunięcia Heringa z szeregów policji. Wszczęto nawet kilka postępowań sądowych w związku z jego wcześniejszą działalnością antynazistowską. Za Heringiem wstawił się jednak Christian Wirth, wpływowy inspektor policji kryminalnej w Stuttgarcie, związany z ruchem nazistowskim. Od tego momentu Hering stał się dłużnikiem Wirtha i zdeklarowanym zwolennikiem nazizmu. W maju 1933 roku wstąpił do NSDAP.