Pierwsze wzmianki o istniejącej tu świątyni pochodzą z przełomu VII i VIII wieku, przy czym przypuszcza się, iż klasztor z kaplicą istniał tu od V w. W X wieku powstał nowy kościół. Kartularz z Lorsch wspomina o założeniu przez arcybiskupa kolońskiego Bruna kościoła opackiego dedykowanego św. Marcinowi z Tours. Tenże hierarcha ofiarował w swoim testamencie relikwie św. Elifiusza z Rampillon, który stał się drugim patronem kościoła. W 989 arcybiskup Everger ofiarował kościół iroszkockim Benedyktynom, którzy władali kościołem i klasztorem do śmierci ostatniego opata Alvolda w 1103. Od 1056 roku mieszkał tu Marian Szkot, autor Kroniki Świata. Prawdopodobnie kościół był trójnawową bazyliką z parami wież od wschodu i zachodu. W 1150 roku wybuchł na przedmieściach Kolonii pożar, który dotknął także część centrum z kościołem i klasztorem. Arcybiskup koloński Filip I z Heinsbergu poświęcił w 1172 zachowaną do dziś część wschodnią zbudowaną w układzie treflowym (od południa, północy i wschodu przylegają do kwadratowego skrzyżowania naw trzy półkoliste absydy). Przy północnej absydzie dobudowano dwie kaplice, powstałe na miejscu zniszczonego przez pożar klasztoru. Opat Simon (1206–1211) i jego brat dokonali fundacji nowego klasztoru. W połowie XIII wieku zbudowano trójnawowy korpus nawowy, przebudowano część wschodnią, m.in.