W tej ostatniej miejscowości już jako proboszcz, przez 3 lata. Na Wielkanoc 1896 biskup Thiel powołał go na stanowisko wicerektora (subregensa) biskupiego seminarium duchownego w Braniewie oraz profesora w Liceum Hosianum. Tym samym spełniło się marzenie księdza Kolberga o poświęceniu się pracy naukowej. Już 24 maja 1897 roku habilitował się w Liceum Hosianum i rozpoczął wykładać historię Kościoła jako privatdozent. Również poświęcił się badaniom historycznym w Warmińskim Towarzystwie Historycznym, w którym został przyjęty do zarządu stowarzyszenia. Szczególnie pochłaniało go badanie historii wieku XVI i czasy reformacji. Jedno z ważniejszych pism dotyczących tych czasów to Ermland im Kriege des Jahres 1520 wydane w roku 1905. W 1901 roku zakończył pracę subregensa seminarium, gdyż został mianowany na stanowisko profesora nadzwyczajnego teologii moralnej. Na wiosnę 1904 roku został mianowany profesorem zwyczajnym. Było to dla niego duże wyzwanie, zamiast umiłowanej historii musiał teraz poświęcić się wykładaniu nowej dziedziny nauki. Że jego pasje przez cały czas skupiały się wokół historii Kościoła, poświadczają jego trzy wyjazdy naukowe do Rzymu, które odbywał w latach 1900, 1908 i 1909. W 1911 osiągnął swój cel – powracając do wykładania historii Kościoła i prawa kościelnego.

Zmarł 22 grudnia 1917 w Braniewie.