Ostatecznie w 1977 zdecydował się na Michigan State, gdy tamtejszy trener, Jud Heathcote poinformował Johnsona, że mógłby grać na pozycji rozgrywającego.
Johnson początkowo nie dążył do robienia profesjonalnej kariery, zamiast tego skupiając się na specjalizacji studiów z komunikacji i na pragnieniu, aby zostać komentatorem telewizyjnym. Grając z przyszłymi uczestnikami draftu, Gregiem Kelserem, Jayem Vincentem i Mikiem Brkovichem, Johnson zdobywał średnio 17 punktów, 7,9 zbiórek oraz 7,4 asyst na mecz jako pierwszoroczniak i prowadził zespół Michigan State Spartans do bilansu 25–5, zdobywając tytuł Big Ten Conference. Dodatkowo zespół z Michigan w zmaganiach o mistrzostwo NCAA dotarł do finałowej ósemki, przegrywając jednak z przyszłymi mistrzami, Kentucky Wildcats.
Podczas sezonu 1978–1979, Michigan State ponownie zakwalifikowali się do fazy pucharowej rozgrywek NCAA, gdzie awansowali do pojedynku finałowego, napotykając Indiana State University prowadzone przez Larry’ego Birda. W tym najlepiej oglądanym spotkaniu w historii uniwersyteckiej koszykówki Michigan zwyciężyło 75–64, a Johnson został wybrany najbardziej wartościowym graczem final four.