Хокеј на леду је на програму Олимпијских игара још од Антверпена 1920. године и тај први хокејашки олимпијски турнир одржан је у оквиру Летњих олимпијских игара. Од 1924. хокејашки турнир је део Зимских олимпијских игара. Први турнир у женској конкуренцији одржан је тек у Нагану 1998. године. Пошто су олимпијске игре замишљене као такмичење спортиста аматера, професионалним хокејашима није био дозвољен наступ на играма све до 1998. године када је ова забрана укинута.
У периоду између 1924. и 1988. такмичења су се одржавала по Бергеровом систему у лигашкој форми. Медаље су освајале екипе које би сакупиле највише бодова (није постојала елиминациона фаза). Олимпијска такмичења у хокеју на леду одржавају се по правилима светске хокејашке федерације и нешто су другачија од правила која се примењују у оквиру НХЛ лиге. Током такмичења играчи се обавезно тестирају на евентуална недозвољена допинг средства, а тестирања спроводи Светска антидопинг агенција (-{WADA}-). Од 1972. када су уведена ова тестирања свега 5 играча је било позитивно на недозвољене супстанце.
Током прве три деценије доминирала је репрезентација Канаде која је освојила шест од могућих седам златних медаља. Међу освајачима медаља у том периоду јављале су и селекције САД, Шведске и Чехословачке. Све до 1968. резултат на олимпијском турниру се уједно рачунао и као такмичење за титулу светског првака. Године 1956. у такмичење се укључује селекција СССР која преузима примат и доминира такмичењима у наредне три деценије, освојивши седам од девет могућих златних медаља. Преостала два злата у том периоду припала су САД 1960. и 1980. године. Некада најуспешнија хокејашка нација, Канада своје ново олимпијско злато чекала је пуних 50 година, све до 2002. године. Златне медаље освајали су још Британци 1936, Швеђани 1994. и 2006, Чеси 1998. и чланови Уједињеног тима који су чинили играчи из бившег Совјетског Савеза 1992. Место на подијуму су заузимали и Швајцарци, Финци, Руси и Немци.
Међународни олимпијски комитет је дозволио свим спортистима учешће на Играма али након Игара 1988. године. Управа НХЛ лиге се у почетку није слагала са том одлуком јер су се Игре обично одржавало паралелно са сезоном у НХЛ лиги, а хокејаши који су играли у овој лиги добили су право наступа тек 1998. године. Ипак све до 2006. НХЛ играчима је било дозвољено да играју само утакмице нокаут фазе, али никако и групни део такмичења.
МОК је у јуну 1992. донео одлуку да у програм Игара уврсти и женски хокејашки турнир, а први је одржан на Зимској олимпијади 1998. у Нагану. Организатори игара су у почетку одбијали да уврсте женски турнир у програм правдајући то додатним трошковима организације. Женским олимпијским турниром доминирају САД (злато 1998 и 2018) и Канада (2002, 2006, 2010 и 2014).
Олимпијски почеци у хокеју на леду Међународна федерација хокеја на леду (ИИХФ) основана је 15. маја 1908. као -{Ligue Internationale de Hockey sur Glace}-. На сесији Међународног олимпијског комитета (МОК) одржаној у Паризу 1914. хокеј је уврштен на листу потенцијалних олимпијских спортова. У јануару 1920. МОК је свега три месеца пре Игара одлучио да хокеј на леду уврсти у службени програм. Разлог овакве одлуке МОК-а лежи у чињеници да је пет европских репрезентација најавило своје учешће на том турниру, а директор ледене дворане у Антверпену је чак одбио да да сагласност да се у тој дворани одржавају појединачна такмичења у уметничком клизању уколико не буде укључен и хокеј на леду. Тако је хокеј дебитовао на Олимпијским играма 1920. године, а ИИХФ је одлучила да олимпијски турнир уједно представља и прво светско првенство у хокеју на леду. Од тада па све до Олимпијских игара 1968. године резултати олимпијског хокејашког турнира су се рачунали и као резултати светског првенства.
Према статуту Олимпијског покрета (поглавље 1, члан 6) сви спортови који се одржавају на снегу и леденим површинама треба да буду део програма Зимских олимпијских игара. Тако су хокеј на леду и уметничко клизање постали део зимског олимпијског турнира. Прве Зимске олимпијске игре одржане су 1924. године у француском Шамонију. Зимске олимпијске игре су се све до 1992. одржавале у истој години када и Летњи турнир, а од тада турнири су се одржавали наизменично сваке друге парне године.
Мушки турнири мини|десно|200п|Постер ЛОИ 1920. Летње олимпијске игре 1920.
На Олимпијским играма хокеј се први пут појавио на играма -{VII}- Олимпијаде 1920. године, у Антверпену. Занимљиво је да је у организационом одбору самих игара био и Пол Луак, доцнији председник ИИХФ-а. Турнир је одржан у три круга по Бергваловом систему.Podnieks and Szemberg 2008, Story #21–Ice Hockey debuts at the Olympics . Први круг је представљао елиминациону рунду у којој се одлучивало о освајачу златне медаље. У другом кругу су се за сребрну медаљу бориле екипе које су поражене од освајача злата, а исти систем је кориштен и у борби за бронзану медаљу.
Хокејашка такмичења су одржана између 23—27. априла уз учешће седам репрезентација: Канада, Чехословачка, САД, Белгија, Швајцарска, Шведска и Француска. Канаду су представљали играчи екипе Винипег Фалконси. У америчком тиму била су четири Канађанина. Шведски тим су чинили углавном играчи бендија који су први пут заиграли хокеј управо у склопу припрема за Олимпијске игре.
У првом кругу Канада је победила у све три утакмице и освојила златну медаљу. У финалу су савладали Шведску са 27:1. У наредној рунди славила је селекција САД која је освојила сребро, док је у трећем колу најбоља била селекција Чехословачке којој је припала бронза.
Швеђани су касније критиковали овакав систем такмичења, јер су одиграли чак 6 утакмица (3 победе), док је Чехословачка која је освојила бронзану медаљу одиграла само три меча (победивши у само једном). И сам Бергвал је критиковао организаторе јер су на неисправан начин применили систем, услед чега је систем такмичења модификован већ од наредних игара.
1924—1952. мини|лево|200п|Детаљ са утакмице између Канаде и Шведске на ЗОИ 1928. На Играма 1924. одржаним у Шамони Мон Блану у Француској, по први пут је кориштен Бергеров систем, а играло се по једнокружном бод систему у две фазе (квалификационе групе и финална група). Овакав систем кориштен је закључно са олимпијским турниром 1988, а током времена варирао је како број екипа учесница тако и укупан број одиграних утакмица.
Те 1924. Канаду је представљала екипа Торонто гранитса, која се предвођена Херијем Вотсоном убедљиво „прошетала“ до златне олимпијске медаље остваривши учинак од свих 6 победа, уз гол разлику 110:3.-{Podnieks and Szemberg 2008: Story #53–Harry Watson scores at will in Olympics}-. Вотсон који је имао индивидуални учинак од 37 голова и 9 асистенција проглашен је за најбољег играча олимпијског турнира. Никада ни једна екипа није на тако убедљив начин освојила ниједан следећи олимпијски турнир. На истим играма, сребро је освојила селекција Сједињених Држава, а бронзу Велика Британија.
На следећим играма 1928. у швајцарском Санкт Морицу учествовало је 11 екипа, а екипа Канаде која се у такмичење укључила тек у финалној рунди поново је убедљиво дошла до златне медаље уз гол разлику од 38:0 (у три одигране утакмице). Сребро је освојила селекција Шведске, а бронзу Швајцарска и биле су то уједно њихове прве олимпијске хокејашке медаље, док је селекција Немачке која је турнир завршила на деветом месту дебитовала на олимпијском турниру. На следећим ЗОИ одржаним 1932. у Лејк Плесиду (САД) учествовале су само 4 екипе, а турнир се играо по двокружном бод систему свако са сваким. Златну медаљу поново осваја селекција Канаде, испред САД, Немачке и Пољске. Бронзана медаља немачке селекције била је уједно и прва хокејашка медаља за Немачку у историји олимпијских игара.
Свега два дана пре почетка ЗОИ 1936. чији домаћин је био немачки зимски центар Гармишпартенкирхен, званичници канадског олимпијског комитета су упутили службени протест МОК-у и организаторима Игара због чињенице да су два играча британског хокејашког тима без дозволе прешли из канадске у британску лигу (Алекс Арчер и Џејмс Фостер). Иако су Канађани имали подршку Међународне хокејашке федерације одустали су од тужбе пошто је Британски олимпијски комитет претио да ће повући тим са игара уколико се поменутим играчима забрани да наступе. На Гармишком хокејашком турниру тако је учествовало 15 екипа подељених у 4 групе. Селекција Велике Британије приредила је прворазредно изненађење победивши два пута селекцију Канаде током турнира и освојивши златну медаљу. На тај начин Британци су прекинули канадски низ од четири узастопне златне олимпијске медаље. Канађани су освојили сребрну, а Американци бронзану медаљу.-{Podnieks and Szemberg}- 2008, -{Story #15–Great Britain wins Olympic gold}-.
Због Другог светског рата отказане су ЗОИ 1940. (чији домаћин је требало да буде јапански Сапоро) и ЗОИ 1944. (чији домаћин је требало да буде италијанска Кортина). мини|десно|200п|Селекција Сједињених Држава освојила је бронзу на ЗОИ 1936.
Непосредно пре почетка Игара V Олимпијаде 1948. у швајцарском Санкт Морицу, у јесен 1947. дошло је до сукоба између две федерације задужене за хокеј на леду на подручју Сједињених Држава, што је довело до дисквалификације селекције САД на турниру. Амерички Аматерски спортски савез, ААУ () који је био задужен за аматерски хокеј на леду у земљи још од 1930. избачен је из чланства у ИИХФ пошто су челници поменуте федерације одбили да дају сагласност на учешће играча из „Америчке хокејашке асоцијације“ (). Челници ААУ-а су сматрали да учешће играча који су плаћени за своје спортске активности није у духу олимпизма и крши се са нормама „спорт као слободна рекреација за све“.-{Podnieks and Szemberg}- 2008, -{Story #82–USA sends two teams to the 1948 Olympics}-. Иако је организациони одбор самих игара прихватио апликацију Америчке хокејашке асоцијације, тадашњи председник Олимпијског комитета Сједињених Држава Ејвери Брандиџ претио је повлачењем целокупне америчке делегације са турнира уколико се дозволи професионалним спортистима да наступе. Са друге стране су челници ИИХФ-а претили повлачењем хокеја на леду из олимпијског програма уколико се забрани учешће АХА асоцијацији. Као компромисно решење АХА асоцијацији је дозвољено да представља амерички хокејашки тим, али с тим да се њихови резултати не рачунају у коначном пласману. Селекција САД је на крају по резултатима освојила 4. место. На том турниру је учествовало 9 екипа, акоји су се такмичили по лигашком систему. Након 8 одиграних кола селекције Канаде и Чехословачке оствариле су учинак од 7 победа, док су у међусобном дуелу одиграли без голова. Захваљујући бољој гол разлици (са 13,8 голова по утакмици) Канађани освајају своју 5 златну олимпијску медаљу (Чехословачка је имала просек од 4,3 гола по утакмици). Бронза је припала селекцији Швајцарске.
Канађани поново на убедљив начин освајају злато и на ЗОИ 1952. у Ослу, испред Сједињених Држава и Шведске. У Ослу је по први пут на олимпијском турниру заиграла селекција Финске. Олимпијски турнир у Ослу означио је и крај доминације Канаде у олимпијском хокеју на леду за наредних 50 година, а „хокејашки трон“ преузела је селекција Совјетског Савеза.
1956—1976. мини|десно|200п|Владислав Третјак једини је хокејаш који је освојио три златне и једну сребрну олимпијску медаљу.