Budowa dojazdów na przedłużeniu mostu miała miejsce w latach 1934–1935 i wiązała się z koniecznością wyburzenia podgórskiej hali targowej oraz kilku kamienic przy ulicy Krakowskiej.
Po II wojnie światowej Most (podobnie jak inne mosty Krakowa) został wysadzony przez wycofujące się wojska niemieckie w styczniu 1945 r., w wyniku czego jego południowe przęsło (po stronie Podgórza) znalazło się w wodzie. Został on tymczasowo zastąpiony drewnianą kładką, a jego ponowne otwarcie po odbudowie miało miejsce w październiku 1948 r. Nadano mu wówczas oficjalną nazwę most Tadeusza Kościuszki. Mimo to, stosowano też jego dawną nazwę – Czwarty Most, oraz popularną po odbudowie – Drugi Most. W świadomości krakowian natomiast zawsze funkcjonował jako most Józefa Piłsudskiego i taką właśnie nazwę przywrócono mu oficjalnie w 1990 r.
W 2020 r. most przeszedł gruntowną renowację, obejmującą m.in. wymianę zniszczonych i skorodowanych nitów, a także montaż iluminacji (ok. 662 opraw iluminacyjnych i 4 oprawy oświetlenia jezdni). Konstrukcja nośna mostu w kolorze niebieskim iluminowana jest na biało, a kamienne filary i podpory na żółto (z możliwością zmiany barwy).