Ze stanowiska ministra zrezygnował w grudniu 2004 roku, po uchwaleniu w Afganistanie konstytucji, która zakazywała pełnienia funkcji ministra przez osoby z podwójnym obywatelstwem (Ghani nie chciał zrezygnować z obywatelstwa Stanów Zjednoczonych).
W 2004 roku objął funkcję kanclerza Uniwersytetu w Kabulu. Rok później zrezygnował z tego stanowiska i został założycielem oraz przewodniczącym Institute for State Effectiveness (ISE, Instytut ds. Państwowej Efektywności), badającego relacje między obywatelami, państwem a rynkami gospodarczymi w kontekście globalizacji.
W 2006 roku był jednym z kandydatów do stanowiska Sekretarza Generalnego ONZKandydaci na stanowisko Sekretarza Generalnego ONZ, unic.un.org..
7 maja 2009 zarejestrował się jako kandydat w wyborach prezydenckich zaplanowanych na 20 sierpnia 2009. Przy tej okazji podkreślił znaczenie ustanowienia reprezentatywnej administracji, dobrego zarządzania, budowy dynamicznej gospodarki i stworzenia możliwości zatrudnienia dla obywateli Afganistanu.