1996–2005: Początki kariery Po występie w dwóch filmach krótkometrażowych – Café Hector (1996) i Blomsterfangen (1996), zadebiutował na dużym ekranie rolą Tonny'ego dealera narkotykowego-skina w dramacie kryminalnym Nicolasa Windinga Refna Dealer (Pusher, 1996). Początkowo w popularnych duńskich produkcjach grywał postacie z marginesu społecznego, często o zabarwieniu komediowym. W 1999 roku wystąpił u boku Kima Bodni w kolejnym filmie Refna, Bleeder, gdzie wcielił się w Lenny’ego – nieśmiałego eksperta filmowego cierpiącego na osobowość unikającą. Po serii małych ról i epizodów, zyskał uznanie w takich filmach jak czarna komedia Migające światła (Blinkende lygter, 2000) i melodramat Raz na wozie, raz pod wozem (En Kort en lang, 2001).
W 2002 roku Mikkelsen zagrał główną rolę młodego lekarza zakochanego w dziewczynie jednego ze swoich pacjentów w filmie Otwarte serca, co przyniosło mu w 2003 roku nominacje do nagród Robert i Bodil dla najlepszego aktora. Za ten występ otrzymał również nagrodę dla najlepszego aktora na Festiwalu Kina Nordyckiego w Rouen. Za postać Nielsa w dramacie Księga Diny (I Am Dina, 2002) u boku Gérarda Depardieu i Christophera Ecclestona zdobył pozytywne recenzje, zarówno w swojej ojczyźnie jak i na arenie międzynarodowej.