Po studiach, przez półtora roku uczył w średniej szkole w Blackburn; w tym okresie, pod wpływem starszego brata, duchownego, jego kręgu religijnych przyjaciół i dyrektora szkoły, przystał do środowiska ewangelikalnego. W 1837 wstąpił do Highbury Theological College w Londynie i rok później został ordynowany; w czasie studiów rozpoczął naukę chińskiego, z postanowieniem wyruszenia na misję do Chin.
W 1839 ożenił się z Mary Isabellą Morison (córką znaczącego pastora Johna Morisona) i wyjechał do Malakki, gdzie uczył w Anglo-Chinese College, szkole dla Chińczyków, prowadzonej przez London Missionary Society (a po śmierci poprzedniego dyrektora, został jej kierownikiem). Stwierdził wówczas, że aby efektywnie nawracać Chińczyków należy zrozumieć ich literaturę i wykorzystać ją do pracy misjonarskiej.
Misjonarz i tłumacz thumb|James Legge i jego chińscy studenci w Hongkongu Jako przedstawiciel drugiej fali nowożytnych misjonarzy chrześcijańskich, budował na fundamentach położonych przez Roberta Morrisona, Williama Milne’a i innych poprzedników, którzy nie byli w stanie dotrzeć bezpośrednio do Chin, ale pracowali wśród chińskich imigrantów w Azji Południowo-Wschodniej, tworząc tam podstawy nauczania języka chińskiego dla obcokrajowców.