22 sierpnia wyrok skazujący został podtrzymany przez Kolegium Wojskowe Sądu Najwyższego ZSRR i zamieniony na 10 lat łagru, 27 sierpnia Ehrlich został powiadomiony o samym złagodzeniu wyroku, a 11 września 1941 przewieziony do Moskwy i następnego dnia zwolniony na mocy amnestii przewidzianej w układzie Sikorski-Majski. Prowadził obok Wiktora Altera rozmowy na temat uruchomienia Żydowskiego Komitetu Antyhitlerowskiego z przedstawicielami najwyższego szczebla NKWD (w tym z komisarzem Ławrientijem Berią) i miał stanąć na jego czele (z Solomonem Michoelsem, Ludowym Artystą ZSRR z 1939, jako zastępcą i Alterem jako sekretarzem). Pod kierunkiem niedawnego śledczego, a następnie oficera łącznikowego przy gen. Władysławie Andersie, kpt. NKWD W.A. Wołkowyskiego, Ehrlich opracował w tej sprawie szczegółowe memorandum dla Józefa Stalina, przekazane z pismem przewodnim Ławrientija Berii na początku października 1941, w okresie zbliżania się wojsk niemieckich do Moskwy. Struktura organizacji oczekiwała na zatwierdzenie, gdy Ehrlich został ewakuowany w połowie października 1941 wraz z personelem Ambasady RP w Moskwie do Kujbyszewa. Po przybyciu wystosował pismo do NKWD domagając się kontynuacji rozmów.