W styczniu 1942 r. Ministerstwo Wojny wydało zgodę na wdrożenie w życie planu formowania wschodnioazjatyckich formacji zbrojnych. Bezpośrednim impulsem było pobicie wojsk brytyjskich na Malajach, ukoronowane zdobyciem Singapuru 15 lutego. Program armii zwany Gun-yo Sasshin miał doprowadzić po pewnym czasie do zredukowania sił japońskich na okupowanych obszarach południowo-wschodnich w celu wzmocnienia wojsk przede wszystkim w Chinach. Liczono, że wojska alianckie nie będą zdolne zaatakować przed końcem 1943 r. Japończycy wykorzystali ten czas do sformowania formacji Giyu-gun na Malajach.
8 września 1943 r. japońskie dowództwo w Sajgonie na obszar południowo-wschodniej Azji wydało rozkaz utworzenia Kyodo Bo-ei Giyu-gun na Sumatrze (podległego 25 Armii) i Jawie (podległego 16 Armii). Pozwoliło to wkrótce zredukować okupacyjne siły na tych wyspach o ¼. Na przełomie września i października Japończycy zgodzili się na przekształcenie jawajskiego Giyu-gun w Pembela Tanah Air (PETA), o co występowali indonezyjscy nacjonaliści. Na czele Giyu-gun na Sumatrze stanął malajski działacz nacjonalistyczny Ibrahim Yaakub. Po 6-miesięcznym przeszkoleniu otrzymał on stopień pułkownika, stając się najwyższym rangą obcokrajowcem w japońskich siłach zbrojnych. Do kwietnia 1944 r. liczebność sumatrzańskiego Giyu-gun doszła do ok. 2 tys. ludzi.