Brał udział w Długim Marszu. W trakcie jego trwania zaczął być coraz bardziej sceptycznie nastawiony do osoby Mao, jednak publicznie nadal go popierałSalisbury s.188. Według różnych źródeł prywatne relacje między nim a Mao były bliskie lub też lekceważące ze strony LinaChang i Halliday s.504Snow s.84. W połowie lat 30. został dyrektorem wojskowego Uniwersytetu Antyjapońskiego a w 1937 roku poślubił Liu XiminLee s.170-171.
Wojna chińsko-japońska i kampania mandżurska
Brał udział w wojnie chińsko-japońskiej, w czasie której dowodził m.in. w zwycięskiej bitwie pod Pingxingguan. Ranny w bitwie został w 1939 roku wysłany na leczenie do Moskwy, gdzie przebywał do 1942 roku. W trakcie pobytu w Moskwie działał w Międzynarodówce Komunistycznej. Jego związek z żoną nie okazał się trwały i małżonkowie rozstali się. Lin sam powrócił do Chin a jego żona pozostała w MoskwieLee s.171. Na krótko związał się z poznaną w ZSRR adoptowaną córką Zhou Enlaia, Sun Weishi a następnie z Ye Qun, którą poślubiłZhang s.2. Po kapitulacji Japonii organizował komunistyczne siły zbrojne na obszarze Mandżurii, którymi dowodził po wybuchu wojny domowej z Kuomintangiem w 1946 roku, w znacznej mierze przyczyniając się do zwycięstwa komunistów. W czasie kampanii Liao-Shen (IX-XI 1948) dowodząc IV Armią Polową zdobył Jingzhou i Mukden.