W tym czasie dowiedział się o istnieniu Związku Artamanów (Artamannenbund), który podtrzymywał tradycje wspólnot rolnych byłych żołnierzy korpusów ochotniczych.
W lipcu 1928 Höß (na podstawie ustawy amnestyjnej z 14 lipca) został przedterminowo zwolniony z więzienia. thumb|Symbol Związku Artamanów thumb|Legitymacja członkowska Rudolfa Hößa ze Związku Artamanów
Związek Artamanów Po opuszczeniu więzienia odrzucił porady wyjazdu za granicę („Chciałem pozostać w Niemczech i tutaj pomagać w odbudowie […] Chciałem osiedlić się na roli”) i nawiązał kontakt ze Związkiem Artamanów. Celem tej organizacji było dążenie do wyparcia polskich sezonowych robotników rolnych, którzy zdaniem jej członków zagrażali swą sezonową, tanią pracą niemieckim chłopom na tym terenie. Organizacja zrzeszała Landdienstgruppen („grupy służby na roli”), których członkowie byli osadnikami o przekonaniach nacjonalistycznych. Jednym z inspiratorów powstania (1924) i przywódców był Heinrich Himmler. Związek popierał aktywnie koncepcję „osadnictwa na wschodzie”, związaną z ideą odzyskiwania terenów utraconych w 1918 na rzecz odrodzonej Polski. Höß zgłosił chęć formalnego przystąpienia do związku zimą 1928/29. 1 marca 1929 otrzymał legitymację związkową i rozpoczął pracę na roli na terenie Brandenburgii.