W XII wieku żydowski podróżnik Beniamin z Tudeli napisał, że krzyżowcy znaleźli na cmentarzu żydowskim w mieście Ramla kości proroka Samuela i pochowali je w specjalnie wzniesionym w tym celu kościele pod wezwaniem św. Samuela położonym na wzgórzu z widokiem na Jerozolimę. Król jerozolimski Baldwin II powierzył An-Nabi Samu’il Zakonowi Cystersów, którzy wybudowali tutaj klasztor. Następnie, w latach 20. XII wieku przekazali go Zakonowi Norbertan. W latach 1141–1144 utworzyli oni tutaj opactwo, a w 1157 roku wznieśli kościół nad grobem proroka Samuela. Gdy w 1187 roku Saladyn podbił większość Palestyny, tutejszy kościół został przekształcony w meczet. W jego otoczeniu rozwinęła się niewielka wioska arabska. W XIII wieku arabski geograf Jakut Ibn Abdallah al-Hamawi opisał An-Nabi Samu’il (lub Maran Samwil) jako „małe miasteczko w pobliżu Jerozolimy. Mar w syryjskim oznacza księdza, a Samwil to nazwa Doktora Prawa”. Tutejszy meczet i miejsce pochówku proroka Samuela było celem tradycyjnych pielgrzymek żydowskich, które docierały do An-Nabi Samu’il w kwietniu i maju każdego roku. W ten sposób An-Nabi Samu’il rozwijało się jako coraz ważniejszy ośrodek kultu religijnego muzułmańsko-judaistycznego. W XV wieku Żydzi wybudowali własną synagogę w sąsiedztwie meczetu.