Obie nazwy, Głęboka i Polska, do końca XIX wieku istniały równolegle – jako ulica Polska od Rynku do Starego Targu i ulica Głęboka od Starego Targu do ul. Zamkowej. Był też czas, gdy najkrótszy odcinek obecnej ulicy Głębokiej – 50-metrowy fragment prowadzący od rynku do Placu Świętego Krzyża, nosił nazwę ulicy Parafialnej.
W roku 1881 cała ulica otrzymała nazwę na cześć Stefanii Koburg – Kronprinzessin Stephaniestrasse (wszystkie tablice uliczne posiadały niemieckie nazwy), która w tym czasie poślubiła arcyksięcia Rudolfa Habsburga.
Następna zmiana nazwy nastąpiła celem uhonorowania następcy tronu arcyksięcia Karola Franciszka Józefa (Erzherzog Karl Franz Josef Strasse), który w roku 1916 został władcą Austro-Węgier.
Kolejna zmiana nastąpiła pięć lat później, w 1920 roku, kiedy ulica powróciła do nazwy Głęboka. Z kolei w roku 1934 arterię przemianowano na ulicę Legionów. W takiej formie funkcjonowała do II wojny światowej, kiedy niemieccy okupanci przywrócili jej nazwę Głęboka, ale w języku niemieckim, czyli Tiefe Gasse. Po zakończeniu wojny władze komunistyczne ponownie zmieniły nazwę, tym razem na ulicę Armii Czerwonej;