Po porażce Francji, jego sytuacja stała się niebezpieczna, ale minęły trzy lata, zanim został wykryty przez władze Francji Vichy i deportowany do Niemiec. Po przybyciu, został wysłany do obozu koncentracyjnego Auschwitz, następnie podobozu Jawischowitz, gdzie przebywał przez 30 miesięcy zmuszany do pracy w kopalni, 16 godzin na dobę. Wraz z późniejszym laureatem Pokojowej Nagrody Nobla Elie Wieselem i późniejszym przewodniczącym CGT Henri Krasuckim, Goldstein przeżył marsz śmierci z Auschwitz do Buchenwaldu. Kiedy obóz Buchenwald został częściowo ewakuowany przez Niemców 8 kwietnia 1945 roku, więźniowie komunistyczni wtargnęli do strażnic, zabili pozostałych strażników i przejęli kontrolę. Obóz został formalnie uwolniony przez wojska amerykańskie 11 kwietnia 1945 roku. Goldstein powrócił do Niemiec Wschodnich. Po wojnie pracował jako dziennikarz, nadawca radiowy i pisarz.
W 2001 roku Goldstein wraz z Peterem Gingoldem i innymi ocalałymi z Holocaustu, wniósł pozew zbiorowy przeciw rządowi Stanów Zjednoczonych i George’owi W. Bushowi, którzy materialnie skorzystali z pracy niewolniczej Auschwitz podczas II wojny światowej, o 40 miliardów dolarów roszczenia odszkodowawczego.