W listopadzie 1918 skończyła się wojna i Himmler nie zdążył wyjechać na front. Przegrana przez Niemcy wojna zburzyła jego świat. Został zdemobilizowany przed Bożym Narodzeniem 1918 i zamieszkał w Berlinie, gdzie wegetował. Pracował jako chłopiec na posyłki u szczotkarza i zarabiał u producenta kleju. Ustalenie szczegółów życia Himmlera w tym okresie jest trudne, ponieważ w późniejszym czasie miał nieograniczone możliwości zniszczenia krępujących dokumentów. W okresie berlińskim miał problemy z wymiarem sprawiedliwości. Na początku 1919 mieszkał ze starszą od siebie prostytutką, z której zarobków żył. Na początku 1920 nagle zniknął, a tuż po tym zostały znalezione zwłoki tej prostytutki. Był poszukiwany i został aresztowany 4 lipca 1920 w Monachium. Stanął przed sądem pod zarzutem morderstwa, jednak nie udowodniono mu winy i został zwolniony. Znowu był przykładnym członkiem katolickiej rodziny. Z ojcem uznali, że zdobędzie zawód bezpieczniejszy w tych trudnych czasach, niż służba wojskowa. Poza żołnierką Himmlera najbardziej interesowało rolnictwo. Wyjechał na farmę w pobliżu Ingolstadt, gdzie miał uczyć się zawodu, ale po miesiącu zachorował na tyfus i zakończył tę pracę.