Pierwszy lot prototypu samolotu, który otrzymał oznaczenie Ki-54, odbył się w połowie 1940. Po wprowadzeniu niewielkich poprawek, między innymi korygujących tendencję samolotu do ciężkich lądowań na nos, samolot wszedł do produkcji w 1941 jako „Samolot Armii Treningu Zaawansowanego Typ 1, Model A” z oznaczeniem Ki-54a. Samoloty wyprodukowane w pierwszej serii zostały przeznaczone przede wszystkich do szkolenia zaawansowanego pilotów. Samoloty wyprodukowane w drugiej serii („Samolot Armii Treningu Operacyjnego Typ 1, Model B”, Ki-54b) były przeznaczone już do szkolenia pełnych załóg i otrzymały pełne wyposażenie bombardierskie oraz strzeleckie, na które składały się cztery pojedyncze karabiny maszynowe Typ 89 7,7 mm. W tej wersji samoloty te były używane przez wszystkie japońskie wojskowe szkoły lotnicze szkolące pilotów samolotów wielosilnikowych i zostały wyprodukowane w największej ilości egzemplarzy.
Kolejna wersja samolotu, Ki-54c, służyła jako lekki samolot transportowy i komunikacyjny, od poprzednich wersji różniła się gładką powierzchnią górnej części kadłuba, gdzie wcześniej znajdowały się stanowiska strzeleckie i kabina nawigatora. W tej wersji samolot mógł przewozić do ośmiu pasażerów.