Dylan zaczął odkrywać także nową technikę poetycką, którą doprowadził później do perfekcji w utworach do albumu Blonde on Blonde (1966). Robert Shelton określił dzieło jako „rozbłyskujący łańcuch obrazów-wyobrażeń”. Wypowiedział się także na ten temat sam Dylan, i to na okładce albumu: „[A Hard Rain’s a-Gonna Fall] jest rodzajem piosenki zdesperowanej. Każdy wers jest faktycznie początkiem nowej piosenki. Jednak kiedy to pisałem pomyślałem, że nie będę miał wystarczająco czasu w życiu, aby napisać wszystkie te piosenki, więc włożyłem to wszystko do tej jednej”.
Wzorem dla piosenki była 12. ballada ze zbioru Childa znana jako „Lord Randal” (lub „Lord Randall”). Był to tradycyjny utwór, który zachował się wśród tych licznych anglosaskich piosenek dla dzieci. Zwrócił na nie uwagę Dylana angielski muzyk folkowy Martin Carthy. Już sam początek ballady nakierowuje na Dylana: Oh, where ha’ you been, Lord Randal my son?