Konstrukcja Ki-3 był zastrzałowym dwupłatem o metalowej konstrukcji krytej blachą i płótnem ze stałym, trójkołowym podwoziem z kółkiem ogonowym. Górny płat o trapezowym obrysie zwężający się ku końcowi, oparty na dolnym płacie dużymi, pojedynczymi zastrzałami. Całość usztywniona naciągami z drutu. Obydwa płaty zaopatrzone w lotki. Koła podwozia wsparte o kadłub czterema zastrzałami osłonięto aerodynamicznymi osłonami, które jednak w warunkach polowych dość często demontowano. Dwuosobowa załoga zajmowała miejsce w otwartej, tandemowej kabinie. Obydwa miejsca załogi osłonięto wiatrochronem. W samolocie zastosowano 12-cylindrowy silnik rzędowy Kawasaki BMW IX zaopatrzony w mechaniczną sprężarkę napędzający dwułopatowe drewniane śmigło. Wlot powietrza do silnika osłonięty został regulowanymi żaluzjami.
Uzbrojenie Maszyna uzbrojona była w dwa lub trzy karabiny Typ 89 kalibru 7,7 mm. Pierwszy z nich zamontowany był na stałe w górnej części kadłuba przed kabiną pilota i strzelał poprzez śmigło. Tylną kabinę zaopatrzono w obrotnicę, na której montowano taki sam ruchomy pojedynczy lub zdwojony karabin Typ 89. Samolot mógł przenosić maksymalnie 500 kg bomb umieszczonych na zaczepach pod kadłubem i dolnym płatem.