Zastąpiła Bezirksligi (najwyższe klasy rozgrywkowe w Cesarstwie Niemiec i Republice Weimarskiej) należące do Baltischer Sport-Verband, czyli Bałtyckiego Związku Sportowego, który organizował mistrzostwa w prowincjach Prus Wschodnich (Ostpreußen), Prus Zachodnich (Westpreußen), a od roku 1913 także Pomorza (Pommern), które jednak w roku 1933 stało się odrębnym okręgiem z własną ligą (Gauliga Pommern).
W skład Gauligi Ostpreußen początkowo weszło 14 drużyn, podzielonych na dwie grupy. Rozgrywały one w sezonie 12 spotkań w systemie każdym z każdym (jeden mecz u siebie, jeden na wyjeździe). Zwycięzcy obu grup rozgrywali pomiędzy sobą mecz finałowy dwumecz, wyłaniający mistrza ligi, który kwalifikował się on do Mistrzostw Niemiec. Z kolei ostatni zespół z każdej grupy, spadł z ligi. Taki system obowiązywał do sezonu 1934/1935.
Od sezonu 1935/1936 Gauliga Ostpreußen była podzielona na cztery grupy według okręgów: Allenstein, Danzig, Gumbinnen oraz Königsberg. W skład każdej wchodziło 7 klubów. Dwa najlepsze z każdej grupy kwalifikowały się do rundy finałowej, w której brało udział 8 zespołów, podzielonych na dwie grupy.