Po śmierci Yuan Shikaia w 1916 roku wrócił do Chin. W 1924 roku został mianowany przez Czang Kaj-szeka wykładowcą Akademii Whampoa. Jako dowódca jednego z oddziałów Narodowej Armii Rewolucyjnej brał udział w walkach z Chen Jiongmingiem, ekspedycji północnej oraz zainicjowanej przez Czang Kaj-szeka w kwietniu 1927 roku rozprawie z komunistami. Gdy w 1927 roku Wang Jingwei wystąpił przeciw Czangowi, He nie zajął jasnego stanowiska w konflikcie, co kosztowało go utratę zajmowanych stanowisk. Po pojednaniu się z Czangiem w 1930 roku został członkiem sztabu generalnego oraz ministrem obrony. Walczył przeciw komunistom w tzw. Wojnie Środkowych Równin oraz kampaniach przeciw Chińskiej Republice Rad.
Postrzegany jako uległy wobec Japończyków, po prowokacjach ze strony Armii Kwantuńskiej negocjował i parafował tzw. porozumienie Tanggu (1933) i porozumienie He-Umezu (1935), na mocy których siły chińskie wycofały się bez walki z Pekinu i prowincji Hebei. W trakcie tzw. incydentu Xi’an pozostał wierny Czang Kaj-szekowi i opowiadał się za siłową rozprawą z puczystami. W 1944 roku odwołany został z funkcji ministra obrony, na której zastąpił go Chen Cheng. 9 września 1945 roku w Nankinie przyjął z rąk generała Yasujiego Okamury akt kapitulacji Japonii.