Kiedy zapora została ukończona w 1916 roku, Peng zakładając, że nie grozi mu już aresztowanie, powrócił do domu. Na miejscu dołączył do wojsk lokalnego watażki Tanga Xiangminga, pozostającego w sojuszu z Kuomintangiem (KMT).
Początek kariery wojskowej W wojsku początkowo zarabiał miesięcznie 5,5 juana, z czego 2 juany wysyłał rodzinie. W ciągu siedmiu miesięcy awansował, zwiększając swoje zarobki do 6 juanów (3 juany wysyłał rodzinie). Jednym z oficerów stojących nad Pengiem był idealistycznie nastawiony nacjonalista, który wcześniej uczestniczył w rewolucji Xinhai 1911 roku. Oficer ten wpłynął na Penga i skłonił go do sympatyzowania z reformami społecznymi oraz zjednoczeniem narodowym postulowanym przez KMT. Po wybuchu kolejnej wojny domowej w 1917 roku, pułk do którego należał, zjednoczył się z siłami Sun Jat-sena i Tana Yankaia z KMT w celu zlikwidowania wojsk militarysty Wu Peifu. W trakcie kampanii Peng ukończył szkolenie z zakresu taktyki. W lipcu 1918 roku został schwytany podczas misji zwiadowczej za liniami wroga, lecz zwolniono go z niewoli po dwóch tygodniach. W kwietniu 1919 roku został awansowany na starszego sierżanta. W lipcu 1920 roku wojska Tanga Shenghzi, który stał się przełożonym Penga, zdobyły miasto Changsha, stolicę prowincji.