Doświadczenia w Chinach i filozofia „Gung Ho” thumb|left|Carlson z dowódcą Chińskiej Armii Czerwonej Zhu De w kwaterze głównej 8 Armii Marszowej w prowincji Shanxi, grudzień 1937 W latach 30. dwukrotnie służył w Azji – w Chinach pełnił funkcje oficera wywiadu i zagranicznego obserwatora konfliktu chińsko-japońskiego. W 1937 roku przebywał z chińskimi komunistycznymi oddziałami 8 Armii Marszowej, gdzie poznawał taktyki wojny partyzanckiej i ducha współpracy pomiędzy żołnierzami. Stamtąd zapożyczył chińskie hasło „Gung Ho!”, oznaczające „pracować razem” lub „razem w harmonii”, które następnie stało się mottem jego służby w piechocie morskiej i na trwałe weszło do amerykańskiego języka wojskowego.
Formowanie Marine Raiders Po powrocie do USA Carlson ostrzegał przed rosnącym zagrożeniem ze strony Japonii i przekonywał decydentów do powołania elitarnej formacji opartej na taktykach partyzanckich oraz wyszkoleniu podobnym do brytyjskich komandosów. Dzięki poparciu m.in. prezydenta Franklina D. Roosevelta i jego syna Jamesa Roosevelta, w lutym 1942 roku został mianowany dowódcą 2. batalionu Marine Raider. Jednostka ta, znana później jako Carlson’s Raiders, składała się wyłącznie z ochotników starannie wyselekcjonowanych spośród doświadczonych żołnierzy piechoty morskiej.