Kariera polityczna Po raz pierwszy w działalność polityczną zaangażował się w czasach swojej pracy akademickiej. W okresie II Republiki (1979–1983) był członkiem lewicowej Ludowej Partii Zbawienia (Peoples’ Redemption Party, PRP). W okresie prezydentury Ibrahima Babangidy był jednym z założycieli Frontu Ludowego (People’s Front), ugrupowania politycznego pod przewodnictwem jego starszego brata Shehu Musy Yar’Adui, które następnie przekształciło się w Partię Socjaldemokratyczną (Social Democratic Party, SDP). Z jej ramienia w 1988 wszedł w skład Zgromadzenia Konstytucyjnego. Pełnił funkcję sekretarza PSD w stanie Katsina. W 1991 bez powodzenia ubiegał się o urząd gubernatora tego stanu, przegrywając z Saidu Bardą, kandydatem Narodowej Konwencji Republikańskiej (National Republican Convention).

W 1998, w czasie wojskowych rządów prezydenta Abdulsalamiego Abubakara, założył ugrupowanie polityczne K34, które następnie współtworzyło powstałą Ludową Partię Demokratyczną (Peoples Democratic Party, PDP). Z ramienia PDP ubiegał się o stanowisko gubernatora stanu Katsina w wyborach z 9 stycznia 1999. Uzyskał elekcję i objął urząd 29 maja 1999. W wyborach z 19 kwietnia 2003 uzyskał reelekcję.