Przebywając w stolicy angażował się w działalność tworzonych sądów islamskich. W 2004 został jednym z islamskich liderów, a w 2005 został wybrany przewodniczącym Unii Trybunałów Islamskich, postulującej utworzenie w Somalii państwa islamskiego. Szarif Ahmed był umiarkowanym przedstawicielem trybunałów. W 2006 Unia Trybunałów Islamskich na sześć miesięcy przejęła władzę w stolicy. Pokonana została dopiero w grudniu 2006, dzięki interwencji wojsk etiopskich. Ahmed ogłosił wówczas dżihad przeciw Etiopii i wezwał bojowników do zjednoczenia w walce.
Po przegranej z wojskami Etiopii, Ahmed wycofał się w kierunku granicy z Kenią. 21 stycznia 2007 został zatrzymany w pobliżu granicy przez kenijską policję. 1 lutego 2007 został jednak zwolniony i następnie wyjechał do Jemenu"Somali Islamist leader out of Kenyan custody ", Hiraan Online, 1 lutego 2007."Somali Islamist travels to Yemen", BBC News, 8 lutego 2007..