Le hockey sur glace a fait ses débuts olympiques au Championnat du monde d'Anvers, transformé en épreuve olympique, puisque les Jeux d'été de 1920 se déroulaient à la même époque dans cette ville de Belgique. Le sport a ensuite fait son entrée officielle aux premiers Jeux d'hiver, à Chamonix, en 1924.
C'est le Canada, représenté par les Faucons de Winnipeg, qui a décroché la première médaille d'or olympique. Les différentes équipes canadiennes ont remporté cinq des six premiers titres des Jeux d'hiver.
Mais après ceux d'Oslo en 1952, le Canada a connu un long passage à vide. Il aura fallu attendre 50 ans avant que l'hymne national canadien retentisse de nouveau, à Salt Lake City.
Entre les deux, l'Union soviétique a outrageusement dominé la compétition jusqu'à son démantèlement à la fin des années 1980. Dans sa quête pour l'or durant cette longue période, elle n'a échoué que deux fois : en 1960 à Squaw Valley, puis en 1980, à Lake Placid, lors du célèbre « Miracle sur glace ». Chaque fois au profit des Américains.
L'interdiction faite aux joueurs professionnels de participer aux Jeux olympiques a toujours été la cause avancée pour expliquer cette très longue disette canadienne.
Cependant, lorsque les portes olympiques se sont toutes grandes ouvertes à Nagano, en 1998, les joueurs canadiens n'ont pu réaliser mieux qu'une 4e place.
C'est aussi à Nagano que le hockey féminin a obtenu droit de cité sur la scène olympique. Les Canadiennes ont finalement dû se contenter de la médaille d'argent après avoir subi une amère défaite de 3 à 1 en finale contre les Américaines, leurs éternelles rivales. Les Canadiennes vont toutefois remporter l'or dans les trois JO suivants.
À Vancouver, en 2010, le Canada a remporté l'or tant chez les hommes que chez les femmes. Dans chaque cas, devant les États-Unis.