Od tej pory pracował w szkolnictwie żydowskim. Do wybuchu II wojny światowej pracował nad habilitacją, którą poświęcił historii Kaffy w XV wieku. Latem 1939 wyjechał na Krym aby zobaczyć obiekty, które badał. Kilka dni po powrocie wybuchła wojna.
Podczas II wojny światowej wraz z żoną i teściową przebywał w getcie warszawskim, gdzie zajmował niewielkie mieszkanie przy ulicy Siennej. Początkowo prowadził tajne komplety w tajnym gimnazjum Mirlasowej, następnie podjął pracę w jednej z manufaktur, tzw. szopie, równocześnie gromadząc materiały historyczne, które przetrwały w Archiwum Ringelbluma. 13 sierpnia 1942, podczas pobytu w pracy, jego żona i teściowa zostały zabrane przez Niemców na Umschlagplatz i wywiezione do obozu zagłady w Treblince. Po tym wydarzeniu zdecydował się na ucieczkę z getta. Po aryjskiej stronie pomagali mu m.in. Stanisław Herbst, Helena Brodowska, Witold Kula i Czeczottowa, nauczycielka w gimnazjum Kreczmara. Po opuszczeniu Warszawy trafił na jedną z wsi w powiecie radzyńskim, gdzie pod fałszywymi personaliami – Józef Mil, pracował jako nauczyciel. Tam doczekał końca wojny. W 1944 przeprowadził się do Lublina, gdzie zaangażował w pracę w rozgłośni radiowej PKWN. Po niedługim czasie uległ wypadkowi, wpadając pod ciężarówkę.