31 października 1876 pod naciskiem Rosji, strona osmańska zgodziła się na podpisanie zawieszenia broni.
24 kwietnia 1877 Rosja wypowiedziała wojnę Turcji, a wkrótce dołączyły do niej Serbia i Czarnogóra. Grujić przeprowadził reorganizację armii serbskiej, na wzór pruski, zwiększając zarazem jej liczebność i poziom wyszkolenia. Oznaczało to także stopniowe przejście od formacji milicyjnej w kierunku stałej armii. W początkach 1878 jednostki serbskie osiągnęły znaczne sukcesy zdobywając Vranje i Leskovac i docierając do okolic Preševa i Vitiny. Wojnę zakończył traktat w San Stefano, w wyniku którego Serbia stała się w pełni niepodległym państwem, ale jej zdobycze terytorialne z czasów wojny znacząco zredukowano.
W służbie dyplomatycznej Po zakończeniu wojny Grujić rozpoczął pracę w dyplomacji. W 1879, kiedy nawiązano stosunki dyplomatyczne między Bułgarią, a Serbią został pierwszym przedstawicielem dyplomatycznym Serbii w Sofii, a następnie w latach 1882-1884 kierował poselstwem serbskim w Atenach. W latach 1885–1887 pracował w poselstwie serbskim w Petersburgu, uczestnicząc zarazem w rosyjskich misjach dyplomatycznych. W 1887 uzyskał awans na stopień generalski.