Czarny półkrzyż na białym tle nawiązuje do idei wypraw krzyżowych lub pierwotnych związków kapituły z zakonem krzyżackim, a czerwona brama z trzema wieżami jest prawdopodobnie nawiązaniem do herbu Fromborka, siedziby kapitułyJan Obłąk Pieczęcie kancelarii biskupiej i kapitulnej na Warmii, w: Rocznik Olsztyński, tom II, str. 119-134, Olsztyn 1958.
Na tzw. pieczęci większej, czyli drugiej z dwóch pieczęci z II połowy XIV wieku, widniała natomiast postać apostoła Jakuba Większego, patrona najstarszego kościoła parafialnego w mieście. W późniejszych wiekach postać świętego znajdowała się także na pieczęciach mniejszych.
Apostoł Jakub był godłem rady miejskiej, a półkrzyż i brama godłem zamku olsztyńskiegoEugen Brachvogel „Die Wappen der ermländischen Städte” w: Zeitschrift für die Geschichte und Altertumskunde Ermlands, tom 19, rok 1916, str. 765. Miasto aż do 1772 roku podlegało władzy zwierzchniej kapituły (poprzez urzędującego na zamku administratora), a sam zamek pozostawał jej bezpośrednią własnością. Dlatego już w średniowieczu połączono oba te herby w jeden herb miasta: półkrzyż i gotycką bramę (później wieżę zamkową) oraz świętego (lub wędrowca) ubranego w szaty pielgrzymie.