Dzieciństwo Heikki Kovalainen urodził się 19 października 1981 roku w fińskiej miejscowości Suomussalmi jako trzecie, najmłodsze dziecko Seppo i Sisko Kovalainenów (ma brata Samiego i siostrę Sannę). Pierwszym słowem, jakie wypowiedział, był wyraz „auto”. Jego ulubionym przedmiotem w szkole był język angielski, nie lubił natomiast matematyki i fizyki.
Jako że jego ojciec brał udział w wyścigach na lodzie, Kovalainen zainteresował się sportami motorowymi. Pierwszy raz za kierownicą gokarta zasiadł w wieku 6 lat. W 1991 roku uzyskał licencję niezbędną do brania udziału w fińskich zawodach kartingowych i w takich też zawodach wówczas zadebiutował.
Jako kierowca kartingowy Kovalainen miał obiecujące wyniki. W 1998 roku był jedenasty w klasyfikacji generalnej Kartingowych Mistrzostw Finlandii Formuły A, ale rok później zajął w tych mistrzostwach drugą pozycję. Ponadto w 1999 roku brał udział jeszcze w Kartingowym Pucharze Monako Formuły A (6 pozycja) oraz w Mistrzostwach Świata Formuły A (18. miejsce w klasyfikacji ogólnej). W następnym sezonie wygrał klasyfikację Skandynawskich Mistrzostw Formuły A, był drugi w Mistrzostwach Finlandii Formuły A, uczestniczył też w takich seriach jak Europejskie Mistrzostwa Formuły Super A (czwarta pozycja w klasyfikacji) czy Mistrzostwa Świata Formuły Super A (trzecie miejsce).