20 maja 1934 Zerow załamał się w śledztwie i zeznał, że w 1930 stał na czele kontrrewolucyjnej organizacji nacjonalistycznej, której członkami byli także Maksym Rylski i Ananij Łebid. W ostateczności do grupy Zerowa zaliczono 6 osób: Mykołę Zerowa, Pawła Fyłypowycza, Ananija Łebidia, Marka Woronego, Łeonida Mytkewycza i Borysa Pyłypenkę. Między 1 a 4 kwietnia odbyło się zamknięte posiedzenie sądu Kijowskiego Okręgu Wojskowego bez udziału oskarżonych. Sąd skazał go na karę 10 lat pozbawienia wolności w łagrze z konfiskatą całego majątku. Taki sam wyrok otrzymali Pawło Fyłypowycz, Ananij Łebid i inni uczestnicy grupy. Udało się uniknąć aresztowania jedynie Rylskiemu i Mytkewyczowi, którzy zeznawali przeciwko Zerowowi.

Pod koniec zimy skazani zostali zesłani do obozu SŁON na Sołowkach. Zerow z przyczyn zdrowotnych nie mógł pracować jako drwal i sprzątał mieszkania. Po ukończeniu pracy mógł w pomieszczeniu stróża zajmować się przekładami i studiami historyczno-literackimi. Niektóre źródła podają, że kilka lat pracował nad ukraińskim tłumaczeniem Eneidy Wergiliusza. Zerow pisał o tym w listach do żony. Ostatni z nich datowany jest na 3 listopada 1937 r. 9 października 1937 „trójka specjalna” NKWD obwodu leningradzkiego RFSRR skazała jednym wyrokiem listę 1116 więźniów Sołowek na śmierć. Na liście znajdowało się nazwisko Zerowa.