W 1849 objął urząd landrata Liechtensteinu, jednak rok później zrezygnował i całkowicie odszedł z polityki Księstwa.
Końcowe lata życia mały|Grób Kaisera na cmentarzu Hof w Chur obok katedry Najświętszej Marii Panny Wniebowzięcia. W roku 1856 przyznane zostało mu obywatelstwo kantonu Gryzonii, co wiązało się ze zrzeknięciem się obywatelstwa liechtensteińskiego.
Peter Kaiser zachorował w 1863 roku i niespełna rok później – 23 lutego 1864 zmarł w szwajcarskim Chur. Został pochowany w tamtejszej katedrze.
Kaiser był krytykowany za swojego życia za swoje bardzo liberalne poglądy przez konserwatywne grupy polityczne, ale również Kościół. Po jego śmierci został zapomniany zarówno przez Szwajcarów jak i Liechtensteińczyków, a ponowne „odkrycie” Kaisera i wykreowanie go na bohatera narodowego Liechtensteinu zaszło dopiero w XX wieku. Aktualnie bezsprzeczne pozostają jego zasługi dla edukacji w Księstwie, tożsamości narodowej Liechtensteińczyków oraz historiografii Liechtensteinu, za której twórcę jest uważany. mały|300x300px|Peter-Kaiser Platz w Vaduz
Upamiętnienie Imieniem Petera Kaisera został nazwany najważniejszy plac w stolicy kraju – Vaduz, przy którym znajdują się siedziby rządu i Landtagu.