Franz Höß w młodości służył w 21 Pułku Dragonów Badeńskich. Z powodu ran zakończył służbę w randze majora i zajął się prowadzeniem przedsiębiorstwa handlującego kawą i herbatą, odziedziczonego przez żonę po rodzicach. Był człowiekiem uczciwym o surowych zasadach etycznych, mało towarzyskim, zamkniętym w sobie, rygorystycznym, a przez syna był oceniany jako surowy. Dzieci wychowywał według surowych zasad wojskowych. Wymagał, aby ściśle przestrzegały zaleceń, bez ich analizowania. Nie bił swoich dzieci, ale jako kary stosował praktyki religijne. Około 1904 Franz ślubował, że pierworodnego syna przeznaczy do stanu kapłańskiego, wytyczając tym samym ścieżkę życiową Rudolfa. W 1906 rodzina Hößów przeniosła się do Mannheimu, gdzie Rudolf ukończył naukę w Volksschule (szkole powszechnej) i w 1910 rozpoczął naukę w gimnazjum humanistycznym.