Hess wierzył, że głównym celem świadomości ludzkiej jest tożsamość narodowa. U wszystkich narodów określa ona historyczną ojczyznę, i z tego powodu u narodu żydowskiego jedyną ojczyzną może być Ziemia Izraela. To dlatego wyraził pragnienie ustanowienia socjalistycznego państwa żydowskiego w Palestynie. Wykazał także zdolność narodu żydowskiego do stworzenia nowoczesnej kultury. Pomimo swoich świeckich socjalistycznych poglądów, Hess przyznał judaizmowi historyczną rolę w utrzymywaniu tożsamości narodowej Żydów i nie zgadzał się na reformy religijne.
Gdy w 1871 roku upadła Komuna Paryska, Hess wyjechał do Belgii i Szwajcarii. Potem powrócił do Paryża, gdzie zmarł w 1875 roku. Zgodnie z jego ostatnią wolą pochowano go na cmentarzu żydowskim w Kolonii. W 1961 roku jego prochy przeniesiono na cmentarz Kineret w Izraelu, gdzie spoczął obok innych syjonistycznych socjalistów, takich jak Nachman Syrkin, Dow Ber Borochow czy Berl Katznelson.