Karierę Khumalo zakończył w roku 2002. Pomimo tego, że wraz z Donaldem „Ace” Khuse, Khumalo jako współtrener wywalczył mistrzostwo ligi z Kaizer Chiefs w sezonie 2002/03 (doprowadzając klub do rekordu w ilości meczów bez porażki – 12 oraz zdobywając nagrodę dla Trenera Miesiąca Castle Premiership, stwierdził, że za cel stawia sobie zostanie managerem piłkarskim. Jest również telewizyjnym komentatorem piłkarskim i prezenterem. Niedawno został zatrudniony jako selekcjoner reprezentacji RPA U-17.
W roku 2004 zajął 62. pozycję w plebiscycie na 100 Najznamienitszych Południowoafrykańczyków. Zwyciężył oczywiście Nelson Mandela. Jeśli zaś chodzi o ludzi związanych z piłką, to wyprzedzili go jedynie znany trener piłkarski i właściciel klubu Jomo Cosmos – Jomo Sono oraz inny znamienity piłkarz z tego kraju – Lucas Radebe.
Sezon Klub Kraj Rozgrywki Mecze Bramki 1987–95 Kaizer Chiefs RPA Castle Premiership ? ? 1995 Ferrocarril Oeste
Primera división argentina ? ? 1995–96 Kaizer Chiefs RPA Castle Premiership ? ? 1996 Columbus Crew USA MLS 25 3 1996–2002 Kaizer Chiefs RPA Castle Premiership ? ?