Historia Kannel był od najdawniejszych czasów uważany za jeden z najważniejszych instrumentów w estońskiej muzyce ludowej. Niektórzy autorzy podają, że był w użyciu już w I tysiącleciu przed naszą erą. Jego nazwa wywodzi się od proto-bałtyckiego określenia kāntles oznaczającego „śpiewające drzewo”, stąd podobieństwo nazw do litewskiego instrumentu kanklės czy łotewskiego kokles. Od lat 70. XX wieku popularna jest teza o wyewoluowaniu kannelu z antycznej liry pod wpływem kontaktów Bałtów z innymi kulturami. Jako że kannel od najdawniejszych czasów kojarzony był w estońskich wierzeniach ludowych z muzyką bogów lokalnego panteonu, tradycyjnie drzewo z którego miał zostać wykonany instrument należało ściąć po czyjejś śmierci, ale przed jego pogrzebem.