Kariera polityczna An-Naszaszibi był w latach 1920-1934 burmistrzem Jerozolimy. W okresie tym był czołowym rywalem politycznym rodziny al-Husajni. Przeszedł do historii miasta jako burmistrz, który przekształcił Jerozolimę we współczesne nowoczesne miasto. Wybudowano wówczas ratusz miejski, doprowadzono wodociąg i system odprowadzania ścieków, powstało także wiele dróg. W sprawie kontaktów ze społecznością żydowską zajął pozycję umiarkowaną, dążąc do kompromisu i porozumienia z Żydami. Współpracował z brytyjską administracją mandatową i jordańskim emirem Abd Allahem I. Sprzeciwiał się Najwyższej Radzie Muzułmańskiej, która pozostawała pod wpływem wielkiego muftiego Jerozolimy Muhammada Amin al-Husajniego.
Po porażce w wyborach na burmistrza miasta w 1934, an-Naszaszibi założył Partię Obrony Narodowej. Gdy w kwietniu 1936 rozpoczęło się arabskie powstanie w Palestynie był jednym z założycieli Wysokiego Komitetu Arabskiego. W pierwszym etapie powstania poparł strajk generalny, jednak rosnąca liczba ofiar spowodowała zmianę jego stanowiska. W 1937 wycofał się z Wysokiego Komitetu Arabskiego i wezwał do powstrzymania walk. Potajemnie sprzyjał zjednoczeniu arabskiej Palestyny z Emiratem Transjordanii.