Zmianie poddano również organizację wojskową. Podstawową jednostką taktyczną została kohorta, na którą składały się trzy manipuły, czyli sześć centurii (ok. 600 żołnierzy; legion liczył 10 kohort). Ujednoliceniu uległa broń, co spowodowało, że armia rzymska stała się znacznie bardziej elastyczna. Można ją było dowolnie ustawiać i dzielić na znacznie mniejsze, operujące samodzielnie oddziały. Legiony wyposażono w znaki bojowe aquilae (orły). Tak zreformowana armia pozwoliła Mariuszowi pobić Teutonów w 102 p.n.e. pod Aquae Sextiae, a rok później Cymbrów pod Vercellae (Plutarch Mariusz XXI i XXVI). Dzięki temu wraz z Kwintusem Lutacjuszem Katulusem, drugim konsulem roku 102 p.n.e. odbył kolejny w swojej karierze tryumf (Plutarch Mariusz XXVII).
Pomimo zażegnania niebezpieczeństwa reformy Mariusza miały w przyszłości skutkować również negatywnie. Przede wszystkim słabe wynagradzanie legionistów pomimo ich uzawodowienia powodował u nich skłonność do grabieży. Brak zabezpieczenia weteranów na starość w połączeniu z długotrwałą służbą (początkowo 16 lat) sprawiał, że dowódcy zaczęli poczuwać się do specyficznej odpowiedzialności wobec demobilizowanych żołnierzy. W przyszłości każdy z wodzów (w tym sam Mariusz) będzie zabiegał o nadania ziemi dla swoich legionistów.