Po wywiązaniu się z niego w 1890, otrzymał probostwo w Newchwangu oraz urzędy prokuratora i prowikariusza wikariatu. W Newchwangu kierował budową nowego kościoła.

Powstanie bokserów 2 lipca 1900 wikariusz apostolski Południowej Mandżurii Laurent Guillon MEP i dwóch innych księży zostało zamordowanych przez bokserów. Ks. Choulet jako prowikariusz objął wówczas zarząd nad wikariatem. Ewakuował z terenów misji część sióstr zakonnych i księży, jednak w podległym mu wikariacie 9 księży (3 Chińczyków i 6 misjonarzy), 2 francuskie zakonnice i tysiące wiernych straciło życie z rąk powstańców. Ponadto porywane były młode chrześcijanki, a wielu katolików musiało uchodzić ze swoich domów. Z wyjątkiem Newchangu nie ostała się żadna placówka misyjna. Sytuację uspokoiła 4 sierpnia 1900 interwencja rosyjska.

Episkopat 21 lutego 1901 papież Leon XIII mianował go wikariuszem apostolskim Południowej Mandżurii oraz biskupem tytularnym zelijskim. 24 listopada 1901 w Pekinie przyjął sakrę biskupią z rąk wikariusza apostolskiego Północnego Zhili Pierra-Marii-Alphonsa Faviera CM.

Przy okazji wizyty w Pekinie z sukcesem negocjował z rządem chińskim sprawę odszkodowań za działania bokserów.