7 lutego 1938 został aresztowany przez NKWD pod wątpliwym zarzutem „założenia organizacji prawicowo-trockistowskiej” w swoim rejonie ufortyfikowanym, szpiegostwa i działalności dywersyjnej; po brutalnym śledztwie w maju 1939 przyznał się do pierwszego zarzutu, jednak w lipcu 1939 po rozpatrzeniu sprawy przez wojenny trybunał 2. Armii został wypuszczony z aresztu. Z powodu stanu zdrowia został zdemobilizowany z armii, wrócił do Putywla, gdzie pracował.
We wrześniu 1941 założył oddział partyzancki w obwodzie sumskim i został jego dowódcą, stał się jednym z organizatorów i przywódców antyfaszystowskiego ruchu partyzanckiego ZSRR na Ukrainie. W październiku 1941 jego oddział połączył się z oddziałem Sidora Kowpaka, w którym Rudniew został komisarzem; później oddział ten stał się jednym z ważniejszych zgrupowań partyzanckich na Ukrainie. Zimą 1942 został ranny. 9 kwietnia 1943 otrzymał stopień generała-majora. Brał udział w rajdzie zgrupowania partyzanckiego na zachód Ukrainy, podczas którego 4 sierpnia 1943 zginął pod Delatynem w obwodzie iwanofrankiwskim.