Kompromis jednak upadł: Henryk napotkał opór przywiązanych do swoich majątków niemieckich prałatów, których pozycję w Niemczech król starał się potem umniejszyć.
Henryk władzę swą oparł na ministeriałach i miastach cesarskich, dystansując książąt i biskupów. Co jakiś czas musiał mierzyć się z opozycją możnych. W 1115 roku poniósł pod Welfensholz klęskę w starciu ze zbuntowanym księciem saskim, Lotarem z Supplinburga, którego sam w 1106 roku osadził na książęcym tronie. Do końca życia cesarz nie odzyskał kontroli nad Saksonią.
W 1118 roku został ekskomunikowany przez nowego papieża Gelazego II, ale ostatecznie 23 września 1122 roku zawarł z jego następcą Kalikstem II kompromisowy konkordat wormacki, kończąc tym samym długoletni spór o inwestyturę. Panowanie Henryka V to okres dalszego upadku autorytetu cesarskiego. Walki wewnątrz Niemiec i z papiestwem kompromitowały cesarza, wykazując jego niezdolność do zaprowadzenia trwałego porządku.
Polityka wschodnia W 1109 zorganizował wyprawę przeciwko Polsce, aby wymusić podział tego kraju.