II wojna światowa We wrześniu 1939 Henri Tanguy został zmobilizowany i włączony do 57 Pułku Piechoty Kolonialnej w Lotaryngii, następnie przeniesiony do 28 Pułku Piechoty Senegalskiej w stopniu porucznika, z którym walczył od 5 do 24 czerwca 1940, wyróżniając się odwagą. Po demobilizacji, wspólnie ze swoją żoną, na nowo zaczął działać w zdelegalizowanej PCF. Uniknął aresztowania w czasie pierwszej fali zatrzymań komunistów, a następnie razem z Raymondem Losserandem i Gastonem Carre organizował komunistyczne jednostki zbrojnego ruchu oporu – Organizacja Specjalna (OS) – w Paryżu i okolicach. Kiedy w maju 1942, po trzech miesiącach od powstania nowej komunistycznej organizacji – Wolnych Strzelców i Partyzantów Francuskich (w skrócie FTPF lub FTP), obaj jego współpracownicy zostali schwytani i rozstrzelani, Tanguy powołał na ich miejsce Rogera Lineta i Raymonda Colina. Zagrożony aresztowaniem, Tanguy wyjechał do Poitou, gdzie kontynuował tworzenie podziemnych jednostek wojskowych. Wrócił do Paryzą w maju 1943, by razem z żoną redagować podziemną gazetę FTP, a razem z Józefem Epsteinem i Édouardem Vallerandem przeprowadzić skuteczną reorganizację stworzonych już grup.