Po pięciu latach wypuszczony, jednak w 1936 znów aresztowany. Po roku pobytu w więzieniu przewieziony do szpitala psychiatrycznego w Mohylewie, gdzie według oficjalnych danych zmarł na gangrenę płuc po czterech dniach pobytu. Większość historyków przyjmuje tezę o samobójczej śmierci Żyłunowicza, niektórzy utrzymują, że padł ofiarą morderstwa.
Upamiętnienie thumb|Pomnik Zmicieru Żyłunowiczu w pobliżu muzeum w Kopylu Tablica pamiątkowa poświęcona Zmicierowi Żyłunowiczowi znajduje się na ścianie domu, w którym się urodził, na ul. Żyłunowicza 39 w Kopylu. Została umieszczona w 1995 roku z inicjatywy administracji rejonu kopylskiego. Znajduje się na niej napis w języku białoruskim: U hetym domie naradziusia wiadomy piśmiennik i hramadska-palityczny dziejacz, starszynia rewalucyjnaha rabocza-sialanskaha urada Biełarusi 1919 h. / Ciszka Hartny (Z. H. Żyłunowicz) 1887–1937 (pol. W tym domu urodził się znany pisarz i działacz społeczno-polityczny, przewodniczący rewolucyjnego robotniczo-chłopskiego rządu Białorusi 1919 r. / Ciszka Hartny (Z. H. Żyłunowicz) 1887–1937).
Publikacje Pieśni (Sankt Petersburg 1913) Uzhorki i niziny (zb.