W grudniu 1835 roku wyruszył w podróż w głąb lądu tradycyjną dżonką. W sierpniu 1836 roku dotarł do przydzielonej mu misji w prowincji Henan, gdzie zastał niewielką i ubogą wspólnotę chrześcijańską. W styczniu 1838 roku został przeniesiony do prowincji Hubei, leżącej w dorzeczu rzeki Han Shui, gdzie niósł posługę sakramentalną i pomoc charytatywną w rozproszonych wspólnotach.
Prześladowanie, proces i śmierć thumb|Męczeństwo Jana Gabriela Perboyre w Wuchangu (grafika z 1889) W 1839 roku, w przededniu wybuchu I wojny opiumowej, w Chinach nasiliły się nastroje wrogie cudzoziemcom i chrześcijaństwu. We wrześniu władze prowincji Hubei pod przewodnictwem wicekróla zarządziły obławę na misjonarzy. 15 września żołnierze otoczyli rezydencję w Cha-yuen-kou. O. Perboyre ukrył się w pobliskich lasach, został jednak zdradzony za pieniądze przez jednego ze skaptowanych katechumenów.
Przez blisko rok był więziony i pędzony od jednego sądu do drugiego (m.in. w Xiangyangu). Poddawano go torturom, wieszano go za kciuki i warkocz na bambusowych belkach, bito kijami oraz zmuszano do deptania krucyfiksu, czemu stanowczo odmówił.