Od 1943 był zarówno szefem niemieckiej policji, jak i ministrem spraw wewnętrznych, nadzorując wszystkie wewnętrzne i zewnętrzne siły policyjne i bezpieczeństwa, w tym Gestapo.
Utworzył Einsatzgruppen i zbudował obozy zagłady. Jako nadzorca nazistowskich programów ludobójczych był odpowiedzialny za eksterminację Żydów w Europie. Działając jako jeden z głównych współpracowników Adolfa Hitlera stał się jednym z największych zbrodniarzy w historiiLaurence Rees: Hitler i Stalin. Wojna stulecia, wyd. 2010, s. 212.. Jako zwierzchnik SS dysponował zasobami taniej siły roboczej (więźniów obozów koncentracyjnych i gett), wspierając nazistowskie plany podboju i podporządkowania szeregu państw europejskich.
Pod koniec II wojny światowej próbował się ukrywać, ale został zatrzymany, a następnie aresztowany przez siły brytyjskie. Przebywając w areszcie brytyjskim, 23 maja 1945 popełnił samobójstwo w wyniku zażycia trucizny, cyjanku potasu.