Wojskowy gubernator Jerozolimy thumb|240px|Abd Allah at-Tall i Mosze Dajan Duże zaangażowanie polityczne at-Talla w sprawy Starego Miasta Jerozolimy, sprawiły, że jego dowódca sir John Bagot Glubb wyznaczył go na wojskowego gubernatora Jerozolimy. Przeprowadził on serię spotkań z izraelskim dowódcą Mosze Dajanem, które otworzyły drogę do zawarcie izraelsko-jordańskiego porozumienia o zawieszeniu broni.
W czerwcu 1949 at-Tall zrezygnował ze swojego urzędu. Okoliczności rezygnacji nie są jasne. Jego motywami mógł być protest przeciwko ustępliwej polityce króla Abd Allaha I lub odmowa awansu na generała brygady. Glubb odmówił mu awansu, ponieważ obawiał się wzrostu popularności at-Talla wśród palestyńskich Arabów. W rezultacie, at-Tall opuścił Jerozolimę i powrócił do rodzinnego Irbidu.
Wygnanie Latem 1949 at-Tall nawiązał kontakty z syryjskim prezydentem Husnim az-Za’imem i wyjechał do Syrii. Jednak 14 sierpnia 1949 az-Za’im został obalony i stracony w trakcie zamachu stanu zorganizowanego przez Samiego al-Hinnawiego. Pod koniec stycznia 1950 at-Tall wyjechał do Egiptu, gdzie zaangażował się w organizowanie grup partyzanckich nękających wojska brytyjskie w strefie Kanału Sueskiego.