Japonia Yinyuan postanowił sam udać się do Japonii. Wyznaczył swojego następcę w klasztorze Wanfu Huimena Rupeia (1615–1664) i w 1654 r. wyruszył z ok. 30 swoimi uczniami do Nagasaki, przypływając tam siódmego miesiąca 1654 r. Został entuzjastycznie przywitany przez Japończyków, gdyż od kilkuset lat był pierwszym wybitnym mistrzem chan, który pojawił się w Japonii. Na ceremonię przyjęcia przez niego stanowiska opata przybyły tysiące ludzi, a na pierwsze zimowe odosobnienie medytacyjne zgłosiło się oprócz 20 mnichów chińskich także 70 mnichów japońskich. Potem został opatem także i drugiego klasztoru chińskiego.
Ponieważ japoński zen rinzai przeżywał wówczas głęboki kryzys, mnisi reformatorzy z klasztoru Myōshin pragnęli doprowadzić do reform poprzez osadzenie go na stanowisku opata tego klasztoru. Nie udał się im jednak przezwyciężyć frakcji z nimi konkurującej.