Został wypuszczony w 1946 i wrócił do Japonii przez ZSRR koleją transsyberyjską i statkiem z portu w Nachodce.
W 1947 japońskie MSZ zwróciło się do niego z prośbą o rezygnację z pracy w służbie dyplomatycznej. Formalnie ze względu na redukcję personelu, ale w rzeczywistości było to spowodowane jego działalnością na Litwie. Sugihara przeżył to bardzo mocno. Dodatkowym ciosem była śmierć jednego z małoletnich synów, wyczerpanego przeżyciami powojennymi.
Sugihara zamieszkał w Fujisawa w prefekturze Kanagawa. Pracował tam dla firmy eksportowej. W latach 50. mając na utrzymaniu liczną rodzinę, podjął pracę w przedstawicielstwie firmy handlowej w Moskwie, wykorzystując swoją znajomość języka rosyjskiego. Mieszkając w prymitywnych warunkach, bez rodziny, spędził tam 16 lat.
W 1968 Jehoshua Nishri, radca handlowy ambasady Izraela w Tokio (jedna z osób, które zawdzięczały życie Sugiharze) odnalazł go i skontaktował się z nim. W następnym roku Sugihara odwiedził Izrael i został powitany z honorami przez rząd tego kraju.
W 1985 otrzymał nagrodę Jad Waszem i – jako jedyny Japończyk – został uhonorowany tytułem חסיד אומות העולם [hasid umot ha-olam] – „Sprawiedliwy wśród Narodów Świata”.