Po rozpadzie monarchii austro-węgierskiej na podstawie uchwał Tymczasowego Zgromadzenia Narodowego Republiki Niemieckiej Austrii w 1918 r. powołano Państwowy Urząd Sprawiedliwości, na czele którego stał Sekretarz Stanu ds. Sprawiedliwości§ 13 uchwały Tymczasowego Zgromadzenia Narodowego Niemieckiej Austrii w sprawie podstawowych instytucji władzy państwowej.. Pełnił on tymczasowo funkcję ministerstwa do czasu uchwalenia Konstytucji dla Austrii.

1 października 1920 r. uchwalono Federalną Ustawę Konstytucyjną Republiki Austrii, która weszła w życie 10 listopada 1920 roku. Na jej mocy utworzono Federalne Ministerstwo Sprawiedliwości, na którego czele stanął Federalny Minister Sprawiedliwości. Pierwszym Federalnym Ministrem Sprawiedliwości był powołany na ten urząd 20 listopada 1920 r. w II rządzie Michaela Mayra. Ministerstwo zostało rozwiązane 23 kwietnia 1938 r. w związku z tzw. Anschlussem Austrii. Po wojnie na podstawie tzw. Małej Konstytucji tymczasowo utworzono Państwowy Urząd Sprawiedliwości. Funkcjonował on do czasu uznania Federalnej Ustawy Konstytucyjnej Republiki Austrii za dalej obowiązującą. Ponownie weszła ona w życie 19 grudnia 1945 r. i tym samym tego samego dnia Federalne Ministerstwo Sprawiedliwości wznowiło swoją działalność.