W okresie wojny rosyjsko-tureckiej (1877–1878) był szefem sztabu zgrupowania ruszczuckiego (Рущукский отряд – wschodnia część rosyjskiej Armii Dunaju, w składzie 12. KA i 13. KA, nazwa od twierdzy Rusçuk, dziś: Ruse), dowodzonego przez carewicza Aleksandra. Za odwagę i umiejętności dowódcze otrzymał Order Świętego Włodzimierza III stopnia. W lutym 1878 r. został dowódcą zgrupowania ruszczuckiego. W 1880 r. Wannowski został zaliczony w poczet oficerów sztabu generalnego bez ukończenia Akademii Mikołajewskiej.

Dzięki osiągnięciom militarno-organizacyjnym podczas wojny z Turcją został mianowany ministrem wojny przez Aleksandra III, nowego cesarza (a swojego bezpośredniego przełożonego na froncie tureckim).

Jako minister wojny przeprowadził szereg reform, który znaczenie porównuje się niekiedy z reformami Milutina, m.in. zreorganizował dowodzenie wojsk, np. upraszczając administrację wojskową. Dążył do wzmocnienia siły jednostek wojskowych, dlatego nakazał redukcję elementów niebojowych. Pułki kawalerii miały składać się nie z 4, lecz 6 szwadronów, zwiększono liczbę pułków kozackich, wzmocniono siłę artylerii, utworzono brygady wojsk inżynieryjnych. Rozbudowano korpusy kadetów z dotychczasowych gimnazjów wojskowych, a jednostki szkoleniowe przekształcano w szkoły oficerskie.