Konstrukcja płatowca była identyczna jak w wersji Ki-44-I; wzmocniono jedynie podwozie główne.
Zbudowano pięć maszyn prototypowych i trzy przedprodukcyjne, a od sierpnia 1942 roku rozpoczęto produkcję seryjną Modelu 2 zamiast Ki-44-I.
Jako główny model produkcyjny myśliwca Shoki, Ki-44-II był budowany w trzech odmianach. Ki-44-IIa uzbrojony był w dwa karabiny maszynowe kalibru 7,7 mm zamocowane w kadłubie i dwa kalibru 12,7 mm w skrzydłach, zbudowano jednak relatywnie mało egzemplarzy tej wersji. Najliczniej produkowany był Model 2B, czyli Ki-44-IIb uzbrojony w cztery karabiny maszynowe kalibru 12,7 mm, po dwa w kadłubie i skrzydłach. Trzecią odmianą był Model 2C z czterema działkami Ho-3 kalibru 20 mm, przeznaczony głównie do ochrony Wysp Japońskich przed amerykańskimi bombowcami B-29 Superfortress.
Myśliwce Ki-44-II wprowadzono pierwszy raz do walki w Chinach, Birmie i Malezji. Powierzano im także misje obrony pól naftowych w Palembang na Sumatrze. Później używano ich w wersji Ki-44-IIc do przechwytywania bombowców B-29 nad Wyspami Japońskimi, w walce przeciw którym były nadzwyczaj skuteczne.