Historia Jednym ze źródeł, które wpłynęły na Dylana przy tworzeniu tego utworu, mogła być dawna piosenka „The Clown’s Baby”, która znalazła się w zbiorze Johna A. Lomaxa Songs of the Cattle Trail and Cow Camp z 1919 roku. Jest to najpewniej piosenka pochodzenia amerykańskiego i została przypisana niejakiej Margaret Vandergrift, chociaż zapewne była ona tylko wykonawczynią tej piosenki dla Lomaxa. Kolejnym źródłem może być także powieść Desolation Angels Jacka Kerouaca z 1965 roku.
Dylan skomponował „Desolation Row” i napisał tekst w czasie nagrywania albumu Highway 61 Revisited. Pierwotne wersje utworu z sesji nagraniowej z 2 sierpnia były wersjami elektrycznymi. Gdy wyprodukowano na acetacie kopie oryginalnej wersji albumu, na 9. (ostatniej) pozycji znalazła się właśnie jedna z tych elektrycznych wersji. Dylan wstrzymał publikację albumu i 4 sierpnia zaaranżował w Columbia Studio A (Nowy Jork) dodatkową sesję nagraniową tylko z udziałem gitarzysty Michaela Bloomfielda. Powstało siedem wersji kompozycji, tym razem w wersji akustycznej. Jednak żadna z nich również nie ukazała się na albumie. Ostatecznie utwór, który umieszczono na Highway 61 Revisited (jako 9. ścieżkę), powstał z połączenia fragmentów wersji 6. z 7. z sesji z 4 sierpnia.