7 grudnia 1724 roku ścięci zostali Jan Gotfryd Rösner i pozostali skazani. Do 11 grudnia Zerneke pozostawał w areszcie domowym. Następnego dnia do Torunia dotarł list odwołujący jego egzekucję. Będąc świadomy, że jego ułaskawienie spotkało się z niezadowoleniem ze strony wielu członków toruńskich elit, 30 grudnia wyjechał do Gdańska. Na miejscu znalazł się w pierwszych dnia stycznia 1725 roku. Na dworze królewskim proponowano przywrócenie Zernekemu piastowanych wcześniej urzędów. Rada Torunia niejednomyślnie odniosła się do tej propozycji.
Zamieszkał w kamienicy przy ul. Piwnej. Cieszył się poważaniem i ochroną gdańskiej rady miejskiej. Utrzymywał kontakt z toruńską radą miejską (formalnie był jej członkiem do 1731 roku) oraz z duchownym Christopherem Andreasem Geretem. Kamienica Zernekego została uszkodzona podczas oblężenia Gdańska przez połączone wojska rosyjskie i saskie w 1734 roku.
Zmarł 29 października 1741 roku. Został pochowany w kościele mariackim w Gdańsku. W 1763 roku Heinrich Zernecke ufundował w kościele mariackim nowe rodowe mauzoleum, w którym złożono ciało Jakuba Zernekego.