Podczas powstania warszawskiego, we wrześniu 1944, grupa żołnierzy Armii Krajowej z batalionu Wacława Stykowskiego „Hala” dokonała w piwnicach domów przy ul. Twardej i Prostej mordu na kilkunastu ukrywających się tam Żydach. Była to najpoważniejsza zbrodnia dokonana na terenie zajętym przez powstańców, której sprawcami byli żołnierze AK.
W 1944 większość zabudowy ulicy została zniszczona.
Ulica w swojej historii trzy razy zmieniała nazwę. W 1941 władze okupacyjnej Warszawy przemianowały ją na Querstrasse (Poprzeczną). Uchwałą Rady Narodowej m.st. Warszawy z dnia 17 stycznia 1947 nazwę ulicy zmieniono na ulica Krajowej Rady Narodowej w celu upamiętnienia zebrania założycielskiego Krajowej Rady Narodowej, które odbyło się 31 grudnia 1943/1 stycznia 1944 w nieistniejącej kamienicy przy ul. Twardej 22; .
Po wojnie ulica podzielona na dwa niepołączone ze sobą odcinki przez wybudowane w latach 1953–1956 ulicę Juliana MarchlewskiegoUlicy Juliana Marchlewskiego w 1990 nadano nazwę al. Jana Pawła II. i nowy odcinek ulicy Prostej. Uchwałą Rady Narodowej m.st. Warszawy z dnia 14 maja 1970 północnemu odcinkowi ulicy od placu Grzybowskiego do ulicy Juliana Marchlewskiego, w celu uniknięcia pomyłek, przywrócono dawną nazwę ulica Twarda.