Odwołanie ze stanowiska burmistrza Po upływie jego kadencji burmistrza w 1856 r. zdecydowanie zwyciężył (stosunkiem głosów 30 do 3) w wyborach na kolejną 12-letnią kadencję. Uzyskał również formalne zatwierdzenie swego wyboru. Z inspiracji prezydenta regencji Juliusa von Schleinitza zorganizowano jednak kampanię polityczną skierowaną przeciwko niemu z powodu jego liberalnych przekonań. Doszło nawet do anonimowej denuncjacji Heynego do władz prowincji i Ministerstwa Spraw Wewnętrznych w Berlinie. W obronie burmistrza rada miejska wystosowała 23 maja 1856 r. specjalną petycję do króla zawierającą wyjaśnienia i prośbę o zatwierdzenie jego wyboru, jednak nie przyniosła ona oczekiwanego rezultatu. Ponowną próbę dotarcia do monarchy podjął w imieniu rady adwokat Emil Senff (późniejszy Honorowy Obywatel Bydgoszczy), lecz również ona zakończyła się niepowodzeniem. Ostatecznie Heyne został zmuszony do złożenia urzędu, w atmosferze skandalu politycznego. Osobiste niepowodzenie i afront, jaki spotkał go ze strony władz regencji, przyczynił się do jego przedwczesnej śmierci.
Zmarł 14 lipca 1856 r. w Bydgoszczy. Pochowano go na cmentarzu ewangelickim przy ul. Jagiellońskiej (dziś Park Ludowy im. W. Witosa). Był żonaty z Emestine z domu Sturmer. Miał troje dzieci: dwóch synów i córkę.