13 czerwca 1915 Suchomlinow został usunięty ze stanowiska ministra wojny, zachował tylko członkostwo w Radzie Państwa. 15 lipca 1915 pod wpływem opinii publicznej rozpoczęto śledztwo przeciwko niemu zarzucając zaniechanie, wykorzystywanie stanowiska służbowego, fałszerstwo i łapownictwo oraz zdradę państwa.
29 kwietnia 1916 aresztowany i osadzony w twierdzy Pietropawłowskiej w Piotrogrodzie. Mikołaj II próbował mu pomóc. 11 października 1916 został zwolniony z więzienia w twierdzy i osadzony w areszcie domowym. Po rewolucji lutowej 1917 i obaleniu caratu wznowiono śledztwo. Przedstawiono zarzuty zdrady, braku działania i korupcji. Obwiniono go także o nieprzygotowanie sił zbrojnych Rosji do wojny. Został uznany za winnego nieprzygotowania armii do wojny i 20 września skazany na dożywotnią katorgę, zamienioną na karę więzienia i pozbawienie wszystkich praw. Po amnestii w związku z ukończeniem 70 lat, 1 maja 1918 zwolniony z więzienia wyjechał do Finlandii, a potem do Niemiec.