Li Yuan rządził do 626, kiedy to jego syn Li Shimin, książę Qin, zmusił go do abdykacji. Li Shimin dowodził wojskiem od wieku lat 18. Był znany ze swych skutecznych szarży kawaleryjskich, świetnie posługiwał się łukiem, mieczem i włócznią. Koło Luoyangu, w bitwie pod Hulao 28 maja 621, pobił silniejszą liczebnie armię Dou Jiande (573–621). Obawiając się zamachu, Li Shimin 2 lipca 626 urządził zasadzkę, znaną jako incydent pod bramą Xuanwu, i zamordował swych dwóch braci, Li Yuanji (ur. 603) i następcę tronu – Li Jianchenga (ur. 589). Wkrótce potem ojciec abdykował na jego rzecz i Li Shimin zajął tron, przechodząc do historii pod swym imieniem świątynnym jako cesarz Tang Taizong (唐太宗).
Aczkolwiek zabijając swych braci i pozbawiając ojca tronu, Taizong pogwałcił podstawowe zasady konfucjańskie, w szczególności nabożności synowskiej, okazał się jednak władcą bardzo sprawnym i umiejącym korzystać z dobrych rad najmędrszych członków swej rady. W 628 urządził ku czci ofiar wojny buddyjskie nabożeństwo, a w 629 nakazał wznieść klasztory buddyjskie na pobojowiskach głównych bitew, by mnisi mogli modlić się za poległych po obu stronach.