Kolejnym celem było pokonanie północnego sąsiada – koczowniczych plemion Xiongnu. Dotychczas, aby zapewnić przyjazne relacje z Xiongnu, stosowano system zwany heqin, polegający na zawieraniu małżeństw, które miały umacniać relacje między sąsiadującymi państwami. Mimo tych mariaży Xiongnu nadal najeżdżali przygraniczne obszary cesarstwa Chin. Przed rozpoczęciem działań zbrojnych przeciwko Xiongnu cesarz planował zawarcie sojuszu ze skonfliktowanymi z nimi Yuezhi. Próba pozyskania sojusznika zakończyła się fiaskiem, jednak nie przekreśliło to planów cesarza. W 133 p.n.e. Han Wudi wysłał wojska przeciwko Xiongnu, rozpoczynając tym samym wojnę, która zakończyła się sukcesem dopiero po jego śmierci, kiedy wojska chińskie zwyciężyły w bitwie pod Jushi.
Han Wudi zajął Mandżurię w roku 128 p.n.e. oraz królestwa północnej i środkowej Korei (109–106 p.n.e.).