Kościół wchodzi w skład dawnego opactwa Benedyktynów, które tworzy zabudowa skupiona wokół czworobocznego wirydarza. Zachowały się romańskie krużganki w zachodnim i północnym skrzydle. Krużganki skrzydła północnego składają się z dwóch naw. Sklepienie krzyżowo-kolebkowe wsparte jest na filarach, które wystawiają ważne świadectwo w rzeźbie romańskiej. O ile ich bazy są jednolite, dekoracja trzonów i kapiteli cechuje zróżnicowanie i bogactwo form. Typowe dla architektonicznej rzeźby romańskiej kapitele z impostami mają formę kostkową (powszechna w sztuce saskiej), nawiązującą do antycznych porządków gł. korynckiego, oraz kielichową. Na ich powierzchni zostały wyrzeźbione reliefy o motywach zoomorficznych (ptaki, smoki, gryfy), florystycznych (liście palmety, akantu, kwiaty) oraz ornamentalnych. Plastyczny sposób dekoracji zastosowano na trzonach, począwszy od klasycznych kanelurów poprzez motywy plecionkowe, geometryczne, po formy spiralne, niektóre wzbogacone są stylizowanymi kwiatami i liśćmi. Ozdobne kapitele wieńczą półfilary przylegające do arkad krużganków, w arkadach umieszczono okna. Niektóre wsporniki dźwigają figury atlantów. Skromna architektura cechuje pozostałe elementy zabudowań klasztornych, m.in.