20 września 1933 Höß został kandydatem do SS. Od tego czasu na stałe związał swoje życie z Schutzstaffel. Początkowo był członkiem Allgemeine (powszechnej) SS, a w 1934 przeszedł do aktywnej służby w formacjach „politycznej gotowości”. Szeregowcem został 1 kwietnia 1934, od 1 grudnia 1934 był członkiem Jednostki Strażniczej SS – SS-Totenkopfverbände. Szybko awansował w hierarchii SS, we wrześniu 1936 miał już stopień SS-Untersturmführera (odpowiednik podporucznika), a dwa lata później osiągnął rangę SS-Hauptsturmführera (kapitana).
Od 1934 roku był stale związany z administracją obozów koncentracyjnych. Od 1 grudnia 1934 należał do załogi obozu koncentracyjnego w Dachau, w maju 1938 objął funkcję adiutanta komendanta obozu koncentracyjnego w Sachsenhausen, a 4 maja 1940 objął stanowisko Lagerkommandanta nowo tworzonego KL Auschwitz.