Po próbie zamachu na własny rząd, przeniósł się do Nairobi w Kenii. W lipcu 2005, przeniósł z kolei rządową siedzibę do Jawhar, jednego z dwóch miast będących tymczasową stolicą Somalii. Mogadiszu znajdowało się w tym czasie w rękach różnych grup wojskowych bojowników. W czerwcu 2006 miasto zostało zajęte przez Unię Trybunałów Islamskich, która zamierzała opanować cały kraj.
W grudniu 2006 w wyniku zbrojnej interwencji etiopskich wojsk w Somalii, islamiści ponieśli druzgocąca klęskę. 29 grudnia 2006 siły etiopskie i rządowe wkroczyły do Mogadiszu. Ghedi został z entuzjazmem przywitany przez miejscową ludność. Jedną z jego pierwszych decyzji było wprowadzenie stanu wojennego na okres trzech miesięcy oraz rozbrojenie grup wojskowych.
Premier Ghedi w czasie sprawowania urzędu był obiektem zamachów. Do najpoważniejszego doszło 3 czerwca 2007, gdy dokonano na niego zamachu przed własnym domem. W wyniku wybuchu ładunku zginęło wówczas co najmniej 7 osób.
Rezygnacja 29 października 2007 ogłosił w parlamencie rezygnację ze stanowiska premiera. Powodem rezygnacji był m.in. konflikt z pochodzącym z innego klanu prezydentem Yusufem w sprawie kontraktów państwowych na wydobywanie ropy naftowej.