Na podstawie samolotu Shenyang J-6 (licencyjnej wersji radzieckiego MiG-19), stworzyli udany samolot szturmowy Nanchang Q-5. Q-5 miał swoje ograniczenia, a największym z nich był zbyt mały udźwig jak na potrzeby chińskiego lotnictwa. Wzrost masy przenoszonego uzbrojenia uzależniony był od odpowiedniego napędu, którego w Chinach brakowało. Przełomowym momentem okazało się zakupienie 50 silników Rolls-Royce Spey RB.168 Mk 202 oraz licencji na ich budowę w Chinach. Dysponując odpowiednim napędem, rozpoczęto prace nad nowym samolotem uderzeniowym.
Projekt Prace nad dwuosobową maszyną uderzeniową rozpoczęto pod koniec 1973 roku w wytwórni w Xi’an we współpracy z Lotniczym Instytutem Konstrukcyjno Badawczym. Początkowo układ konstrukcyjny nowego samolotu przypominał F-4 Phantoma II, zwłaszcza że brytyjskie Phantomy FG1 napędzane były silnikami Rolls-Royce Spey, a chińscy specjaliści dość dokładnie zapoznali się z konstrukcją tego samolotu podczas wojny w Wietnamie. Mieli wówczas dostęp do podzespołów zestrzelonych maszyn a według niepotwierdzonych informacji dysponowali również kompletną maszyną. Prace projektowe oficjalnie rozpoczęły się w 1977 roku.