W 1942 brat Maxa, Erich, został deportowany do obozu koncentracyjnego Auschwitz. 2 lutego 1943 Max Mannheimer, jego matka, ojciec, bracia Ernst (Arnošt) i Edgar, 15-letnia siostra Katharina (nazywana Käthe) i 22-letnia żona Eva (z domu Bock) zostali aresztowani i deportowani do Auschwitz; miało to miejsce po krótkim postoju w obozie koncentracyjnym Theresienstadt (Protektorat Czech i Moraw). W momencie przybycia Mannheimera do Auschwitz większość członków jego rodziny już nie żyła. Rodzice, siostra oraz żona zabrani zostali podczas pierwszej selekcji. Niedługo potem zabrano braci, Ericha i Ernsta. Mannheimer przetrwał trzy selekcje, a także operację przeprowadzoną w szpitalu na terenie obozu Auschwitz, którą wykonał lekarz (także więzień).
W październiku 1943 Mannheimer oraz jego młodszy brat, Edgar, zostali przetransportowani do getta warszawskiego, by usuwali gruz. W lipcu 1944 wysłano go w marszu śmierci do obozu Dachau, gdzie dotarł 6 sierpnia 1944. Po trzech tygodniach kwarantanny trafił do podobozu Allach, gdzie pracował w fabryce BMW. Na początku 1945 Mannheimer i jego brat wysłani zostali do podobozu Mühldorf, którego więźniów Niemcy ewakuowali pociągiem 28 kwietnia 1945. Dwa dni później, w bawarskiej miejscowości Seeshaupt, pociąg ten został wyzwolony przez amerykańskie oddziały wojskowe.