Największym przebojem z albumu był utwór „Whole Lotta Love”. W styczniu 1970 dotarł on do 4. miejsca listy Billboard Hot 100 po tym, jak wytwórnia płytowa wbrew woli zespołu wydała skróconą wersję singla. Na stronie B zamieszczono utwór „Living Loving Maid (She's Just a Woman)”, który również znalazł się w zestawieniu magazynu Billboard, osiągając w kwietniu 1970 miejsce 65. Album utrwalił wizerunek zespołu jako atrakcji koncertowej.
W 1970 David Juniper został nominowany do nagrody Grammy za „najlepszą okładkę albumu” za Led Zeppelin II. 10 listopada 1969 album zdobył status złotej płyty w Stanach Zjednoczonych. Do 14 listopada 1999 sprzedano 12 mln egzemplarzy, przynosząc albumowi status dwunastokrotnej platynowej płyty.
Albumy Led Zeppelin, Led Zeppelin II i Led Zeppelin III zostały poddane remasteringowi i wydane ponownie 2 czerwca 2014. Dostępne są w 6 różnych formatach: standardowa edycja CD, edycja specjalna na dwóch CD, standardowa edycja na płycie winylowej, edycja specjalna na dwóch płytach winylowych, edycja specjalna z dwiema CD, dwiema płytami winylowymi i książką, a także w postaci cyfrowej. Wszystkie edycje specjalne zawierają alternatywne wersje utworów, podkłady dźwiękowe oraz niewydany wcześniej instrumentalny utwór „La La”.