Elon ma dwoje młodszego rodzeństwa: brata i siostrę Toscę.
Po rozwodzie rodziców w 1980 mieszkał głównie z ojcem. Kiedy miał 10 lat, dostał pierwszy komputer i nauczył się programować (według innego źródła nauczył się programować w wieku 13 lat). Dwa lata później sprzedał swój pierwszy program – grę komputerową Blastar za około 500 dolarów.
Jako nastolatek uczęszczał do Pretoria Boys High School, którą ukończył w wieku 17 lat. Krótko później, częściowo z chęci uniknięcia obowiązkowej służby wojskowej w Południowoafrykańskich Siłach Obronnych (SADF), wyemigrował do Kanady, gdzie mieszkała rodzina jego matki. Planował przeniesienie się do Stanów Zjednoczonych.
W Kanadzie pracował u kuzyna na farmie w Swift Current, przy czyszczeniu kotłów w tartaku w Kolumbii Brytyjskiej i przy wyrębie lasów. Po dwóch latach przeniósł się do Toronto i pracował w dziale IT w banku, aplikując jednocześnie do Queen’s University. Opuścił Kanadę w 1992 roku po uzyskaniu stypendium na University of Pennsylvania.