W 1084 antypapież Klemens III koronował Henryka na cesarza. Ostatnie dwadzieścia lat panowania Henryka to dalszy okres wojen domowych w Niemczech. W 1085 roku Henryk podarował księciu czeskiemu Wratysławowi koronę królewską. Henryk planował również wyprawę wojenną na Polskę i Węgry, jednak wobec sprzeciwu Sasów nigdy nie doszły one do skutku.
31 grudnia w 1105 roku w Ingelheim opuszczony przez ostatnich stronników Henryk został zmuszony do abdykacji. Władzę przejął jego syn Henryk V.
Pół roku po abdykacji, w sierpniu 1106 roku, Henryk IV zmarł w Liège i po przewiezieniu do Spiry został początkowo pochowany w niepoświęconej kaplicy. Pięć lat później, po zniesieniu ekskomuniki, 7 sierpnia 1111 roku został pochowany w katedrze w Spirze.
Panowanie Henryka IV zostało opisane w powieści „Tiara i korona” Teodora Jeske-Choińskiego, która przedstawia problem sporu o inwestyturę.
Małżeństwa i potomstwo Henryk IV był dwukrotnie żonaty. Pierwszą żoną była Berta Sabaudzka, córka hrabiego Sabaudii Ottona I. Drugie małżeństwo z Eupraksją (po koronacji Adelajdą) było bezpotomne.