W czasie tej wędrówki poznał Abd al-Mumina, syna garncarza, który stał się jego gorącym zwolennikiem, a w przyszłości pierwszym kalifem i założycielem dynastii.
Największą potęgą ówczesnego Maghrebu było państwo Almorawidów, ze stolicą w Marrakeszu. Obejmowało ono swym zasięgiem oprócz dzisiejszego Maroka także część Maghrebu Środkowego aż po Algier oraz muzułmańską Hiszpanię, czyli Al-Andalus. Imperium almorawidzkie powstało kilkadziesiąt lat wcześniej i zostało stworzone przez podobny Almohadom ruch odrodzenia religijnego, jako reakcja na upadek ortodoksji muzułmańskiej. Jednak surowy ruch Almorawidów po podboju Andaluzji i zetknięciu się tam z wyrafinowaną kulturą muzułmańskiej Kordoby, szybko porzucił swe ascetyczne i plemienne korzenie. Wywołało to niezadowolenie wśród wielu kręgów muzułmańskich Maroka. Na wieść o tym Ibn Tumart powrócił do swego rodzinnego plemienia i rozpoczął budowę nowego ruchu religijno-politycznego wśród górali Masmuda, ogłaszając się tam mahdim. Sułtanat Almorawidów stworzony został przez plemiona otwartych terenów, a regiony górskie pozostawały od niego w zasadzie niezależne. Jednak, gdy w ciągu trzech lat 1122–1125 Ibn Tumart zyskał rozgłos i zwolenników pośród plemion Masmuda w Atlasie Wysokim i Antyatlasie, ówczesny emir Ali ibn Jusuf skierował przeciw niemu swe wojska.