Z czasem angażował się coraz bardziej w działalność polityczną. W 1989 Neves został przewodniczącym organizacji młodzieżowej partii PAICV. Od 1996 do 2000 zasiadał w parlamencie jako członek PAICV z okręgu Santa Catarina. Pełnił wówczas funkcję drugiego wiceprzewodniczącego Zgromadzenia Narodowego oraz przewodniczącego Komitetu ds. Administracji Publicznej, Rządu Lokalnego i Rozwoju Regionalnego.
W marcu 2000 José Maria Neves został wybrany burmistrzem dystryktu Santa Catarina. We wrześniu 1997 po raz pierwszy ubiegał się o przywództwo w PAICV, jednakże wówczas liderem partii został wybrany Pedro Pires. Gdy Pires zrezygnował z funkcji lidera PAICV, by ubiegać się o stanowisko prezydenta, Neves ponownie wziął udział w wyborach szefa partii w czerwcu 2000 i osiągnął sukces.
José Maria Neves zwyciężył w pierwszej turze wyborów prezydenckich w październiku 2021 zdobywając 51,68% głosów i pokonując Carlosa Veigę (42,11%).
9 listopada 2021 roku został zaprzysiężony na prezydenta Republiki Zielonego Przylądka.