Śmierć Karol nigdy nie cieszył się dobrym zdrowiem, kiedy jednak na początku września 1380 roku na jego lewym ramieniu pojawił się wysychający ropień, król zaczął się przygotowywać na śmierć. Zmarł 15 września 1380 roku. Jak niemal wszyscy królowie francuscy został pochowany w bazylice Saint-Denis w Saint-Denis. Jego następcą został starszy z dwóch synów, którzy go przeżyli, Karol VI.
Bilans panowania i następcy Panowanie Karola Mądrego jest uważane za ważny zwrot w historii konfliktów angielsko-francuskich. Po latach klęsk, jakie spadły na Francję w połowie XIV wieku, potrafił Karol V podnieść kraj z upadku i nie dopuścić do koronacji Edwarda III na króla Francji. Jednak choroba psychiczna jego syna i następcy Karola VI oraz walki stronnictw w łonie dynastii Walezjuszów miały zaprzepaścić niemal wszystkie polityczne sukcesy tego panowania. Dopiero wnuk Karola Mądrego – Karol VII, który będzie zresztą stosował podobną taktykę w trakcie działań wojennych, zdoła ostatecznie wyprzeć Anglików z Francji i zakończyć wojnę stuletnią.