Początkowo angażował się w działalność Indyjskiego Kongresu Narodowego (INC), będąc zwolennikiem stopniowego poszerzania samorządności Indii w ramach imperium brytyjskiego. Reprezentował INC podczas rozmów w Londynie w 1905. Z czasem jednak coraz większą wagę przywiązywał do problemów muzułmańskiej mniejszości w Indiach, uznając zagwarantowanie jej równych praw politycznych i społecznych za ważniejsze niż szybkie uzyskanie niepodległości. W 1913 wstąpił do Ligi Muzułmańskiej i stopniowo dystansował się od INC, który pod przywództwem Mahatmy Gandhiego przybrał wyraźniej hinduistyczny charakter oraz bardziej konfrontacyjną postawę wobec Brytyjczyków. Do 1928 roku prowadził działania na rzecz współpracy między Indyjskim Kongresem Narodowym, a Ligą Muzułmańską.
W 1930 roku zerwał współpracę z Gandhim, oskarżając Indyjski Kongres Narodowy o prowadzenie polityki w duchu hinduskiego nacjonalizmu, i inspirując się myślą Muhammada Iqbala stworzył koncepcję utworzenia z północnych prowincji indyjskich oddzielnego państwa dla muzułmanów – Pakistanu. Rozczarowany niestabilnością indyjskiej sceny politycznej, w 1931 planował osiedlić się na stałe w Londynie, jednak już wówczas jego autorytet sprawił, że przywódcy muzułmańscy przekonali go do powrotu.