W 1968 Khalid wstąpił do Pakistańskiej Partii Ludowej (PPP) i został szefem jej władz w Lahaurze. Należał do grona zaufanych współpracowników założyciela partii Zulfikara Alego Bhutto, późniejszego prezydenta i premiera Pakistanu. W rządzie Bhutto Khalid był ministrem żywności, rolnictwa i obszarów słabo rozwiniętych (1971–1972), prawa i spraw parlamentarnych (1974–1976) oraz opieki społecznej, zdrowia i rozwoju wsi (1976–1977). Po wyborach parlamentarnych z marca 1977 został obrany na funkcję przewodniczącego Zgromadzenia Narodowego, ale już w lipcu utracił ją po przewrocie gen. Muhammada Zii ul-Haqa.
W przeciwieństwie do kilku innych przywódców PPP, Khalid pozostał w kraju po przewrocie. Po egzekucji obalonego Bhutto w 1979, został powołany w skład komitetu centralnego PPP; z członkostwa w tym gremium zrezygnował w styczniu 1988. W 1988, po śmierci (w sierpniu) gen. Zii w katastrofie lotniczej i zwycięstwie PPP (kierowanej przez Benazir Bhutto, córkę straconego premiera) w listopadowych wyborach parlamentarnych, ponownie stanął na czele Zgromadzenia Narodowego. Po odwołaniu rządu Bhutto w 1990, powrócił do pracy społecznej;