Ibn Abbas miał dowodzić częścią oddziałów Alego w bitwie Wielbłądziej i pod Siffinem. Ali chciał go uczynić swoim przedstawicielem podczas procedury arbitrażu pomiędzy nim a Mu’awiją (661–680), nie pozwolili jednak na to jego zwolennicy. Niemniej Ibn Abbas miał towarzyszyć Abu Musie al-Aszariemu, przedstawicielowi Alego, kiedy ten udał się na sesję arbitrażu w Dumat al-Dżandal. Zachowało się również wiele źródeł wspominających dyskusje, jakie Ibn Abbas prowadził z różnymi grupami charydżytów, starając się przekonać ich do zaprzestania walki. Kilka dni przed 4 stycznia 657 Ali mianował Ibn Abbasa namiestnikiem Basry, przy czym okoliczności opuszczenia przez niego tego urzędu pozostają niejasne. Według niektórych źródeł miał pozostać na tym stanowisku aż do śmierci Alego, po czym udał się do Mekki, by następnie osiąść w At-Ta’ifie. Zgodnie z innymi uciekł z miasta z jego skarbcem po tym, jak został oskarżony o sprzeniewierzenie prowincjonalnych funduszy. Zachowały się też przekazy mówiące o tym, że w rzeczywistości tego zdradzieckiego aktu dokonał jego brat, Ubajd Allah, co prawdopodobnie było próbą oczyszczenia człowieka, który bądź co bądź był przodkiem abbasydzkich kalifów.