Mithrandir znaczy w sindarinie ‘Szary Pielgrzym’ lub ‘Szary Wędrowiec’ (mith ‘szary’ + rhandir ‘pielgrzym, wędrowiec’). To imię było używane głównie przez elfów w Śródziemiu, a także w Gondorze i Arnorze.

Jego krasnoludzkie imię Tharkûne znaczy dosłownie ‘Laska-człowiek’, czyli ‘Człowiek z laską’.

Mówiąc o swoim imieniu „na południu“ Gandalf miał prawdopodobnie na myśli Bliski I Daleki Harad. Imię Incánus byłoby zaadaptowanym do quenejskiego słowem z mowy Haradrimów, znaczącym ‘Szpieg Północy’ (Inkā + nūs).

Inspiracje Humphrey Carpenter w biografii z roku 1977 napisał, że w roku 1911 Tolkien, przebywając na wakacjach w Szwajcarii, kupił kilka kartek pocztowych z reprodukcjami obrazów. Wśród nich znalazła się praca niemieckiego artysty J. Madelnera Der Berggeist (‘Duch Gór’), przedstawiająca starszego mężczyznę siedzącego na skale, pod sosną. Miał on białą długą brodę, ubrany był w kapelusz z szerokim rondem i długi czerwony płaszcz. Rozmawiał z białym młodym jelonkiem, który obwąchiwał jego wyciągniętą rękę. W tle widoczne były wysokie skaliste góry. Tolkien pieczołowicie zachował tę pocztówkę, a na kopercie, w którą była zapakowana, dużo później napisał „Origin of Gandalf” (‘Pierwowzór Gandalfa’).