Historia Mrągowa sięga XIV wieku, kiedy powstało jako osada zakonu krzyżackiego o nazwie Sensburg, przez osadzaną tu ludność mazurską zwana Ządźborkiem. Obecna nazwa miasta nadana została po II wojnie światowej na cześć polskiego pastora Krzysztofa Celestyna Mrongowiusza, pierwszego badacza kaszubszczyzny i gwar Warmii i Mazur, członka TPN w Warszawie. Osada (pierwotnie miał to być gród obronny) powstała na terenach pruskiej krainy plemiennej Galindii, a w roku 1407 na prawie chełmińskim powstało miasto zamieszkane po części przez Niemców, po części przez Mazurów. mały|upright|Herb Mrągowa
Czasy najdawniejsze W 2011 roku na placu Wolności odkryto ślady osady ludności kultury kurhanów zachodniobałtyjskich datowaną na III–II w. p.n.e.
Galindia Mrągowo powstało na obszarze, które było zamieszkiwane przez pruskie plemię Galindów. Z racji swojego położenia geograficznego, Galindowie, jako jedni z ostatnich, zetknęli się z rycerzami krzyżackimi. Było to pod koniec XIII wieku. Już wtedy tereny te były, około pół wieku opóźnione pod względem lokacji, do innych obszarów powstającego państwa krzyżackiego. Niedokończone badania archeologiczne w latach trzydziestych archeologów z Uniwersytetu Królewieckiego potwierdziły, że na wyspie jeziora Czos (dzisiejszy Półwysep Ostrów) znajdowała się osada Galindów.