Forma architektoniczna tego pierwszego mauzoleum męczennika jest bliżej nieokreślona, jednak prawdopodobnie składało się ono z ołtarza, zespolonego z grobem, zawierającym relikwie.
W pierwszej połowie XI wieku przystąpiono do budowy kamiennej bazyliki w miejsce kościoła grodowego. Był to trójnawowy, beztranseptowy kościół bazylikowy, zamknięty od wschodu trzema apsydami, z nową przedromańską konfesją św. Wojciecha. Ulokowano ją w mistycznym i geometrycznym środku całej budowli (in medio ecclesiae). Miała postać grobowej kaplicy, wytyczonej na planie kwadratu o bokach ok. 4,7 m, o obniżonym poziomie użytkowym względem nawy głównej. Wewnątrz niej, przy ścianie wschodniej znajdował się ołtarz z grobem z relikwiami. Boki tego ołtarza ozdabiały trzy złote tablice. Na pograniczu nawy głównej i prezbiterium znajdował się tumbowy grobowiec Radzyma Gaudentego, znajdujący się obecnie w podziemiach katedry. Długość całkowita budowli wynosiła ok. 37,5 m. Większość kosztowności, podobnie jak same relikwie zostały wywiezione z Gniezna przez Brzetysława II. W Gnieźnie zachowały się relikwie wmurowane w różnych miejscach w ścianach świątyni, sprowadzono także szczątki świętego, ofiarowane wcześniej innym parafiom.