Motown wydało jeszcze jeden solowy album studyjny Gaye’a, M.P.G. (1969) oraz jego wspólne zapisy z artystką Tammi Terrell na dwóch osobnych płytach – You’re All I Need (1968) oraz Easy (1969).
Prawdopodobnie jego pierwsze problemy z narkotykami oraz problemy rodzinne jakie zastał w domu po powrocie zmieniły na zawsze muzyczne spojrzenie Gaye’a. O ile album That’s the Way Love Is (1970), wydany niejako na cześć powrotu Gaye’a do ojczyzny, nie odbiegał znacząco od reszty dotychczasowych albumów, o tyle wydany w maju 1971 roku What’s Going On stał się albumem stanowiącym początek nowego oblicza czarnej muzyki i wskazówką dla wielu następnych muzyków. Gaye zmienił na nim swój image seksownego śpiewaka R&B na rewolucyjnego, zbuntowanego mężczyznę walczącego poezją o lepsze jutro. Album What’s Going On podbił czarne listy przebojów. Biała społeczność przyjęła album równie podobnie (6. miejsce albumu na liście „Billboard” Pop Albums). W 1972 roku Gaye za ten album otrzymał nagrodę Trendsetter „Billboardu” (drugorzędna nagroda) za: „promowanie ekologii poprzez dające do myślenia piosenki z przesłaniem”. Stało się tak, ponieważ Gaye na swojej płycie poruszył m.in. problemy polityki Stanów Zjednoczonych, rządu, wojny wietnamskiej oraz zepchnięcia na margines czarnej społeczności.