Struktury KPCh były wzorowane na opracowanej przez Włodzimierza Lenina teorii partii awangardowejVan de Ven 1991, s. 34–38.. Ideowe zalążki programu partii opracowali działacze kulturalni okresu Ruchu Nowej Kultury w tym Cai HesenVan de Ven 1991, s. 38.Van de Ven 1991, s. 44..
Krajowy Kongres Założycielski partii odbył się w dniach 23–31 lipca 1921Gao 2009, s. 119.. Kongres miał początkowo odbyć się jeszcze 3 lipca w Szanghaju, jednak spotkanie zakłóciła policja. Z obawy przed kolejnymi próbami rozbicia wiecu uczestnicy kongresu spotkali się w łodzi na środku jeziora w Jiaxing, znajdującego się prowincji Zhejiang. W kongresie udział wzięło tylko 12 delegatów. Udziału w spotkaniu nie wzięli ani Li, ani Chen (który wysłał swojego przedstawiciela). Na kongresie podjęto decyzję o utworzeniu partii komunistycznej będącej filią Międzynarodówki Komunistycznej. Przewodniczącym partii został wybrany przez delegatów Chen.