Prace nad jego następcą rozpoczęły się od razu po wprowadzeniu Ki-27 do służby w lotnictwie armii japońskiej. Kontrakt na tę maszynę został przyznany firmie Nakajima bez konkursu. Wymagania stawiane przed nową maszyną były następujące: prędkość maksymalna - 500 km/h, czas wznoszenia na pułap 5000 m - 5 minut, zasięg - 800 km, uzbrojenie - 2 x 7,7 mm karabiny maszynowe oraz zwrotność nie mniejsza niż poprzednik Ki-27. Nowy projekt oznaczono symbolem Ki-43.
Kierownictwo nad zespołem projektowym objął Hideo Itokawa, który projektował również Ki-27. Zespół konstrukcyjny postanowił zbudować samolot w tej samej konfiguracji jak wcześniejszy model, czyli dolnopłata o konstrukcji całkowicie metalowej i z powierzchniami sterowymi pokrytymi płótnem. Skrzydło samolotu zostało zaprojektowane jako trójdźwigarowe jednoczęściowe, wzmocnione w celu uzyskania maksymalnej zwrotności. Zaprojektowano bardzo wąski kadłub z pokryciem metalowym. W odróżnieniu od Ki-27 nowy samolot wyposażono w pełną kabinę oraz wciągane podwozie. Koła podwozia głównego po złożeniu znajdowały się we wnękach spodniej części kadłuba.