Jego najbardziej znane numery to Mighty Mouse (debiut w Saturday Night Live), „cudzoziemiec” parodiujący Elvisa Presleya, czytanie widzom na scenie Wielkiego Gatsby'ego F.S. Fitzgeralda w całości, występy w roli piosenkarza z Las Vegas Tony’ego Cliftona (Andy zawsze utrzymywał, że Tony to postać autentyczna).
W wieku 20 lat został ojcem nieślubnej córki, Marii Colonny, którą postanowił oddać do adopcji. Od roku 1992 Maria utrzymuje przyjazne stosunki z rodziną Andy’ego.
Zmarł w Los Angeles 16 maja 1984 roku na raka płuc w wieku 35 lat. Jego życiorys stał się podstawą scenariusza filmu Miloša Formana „Człowiek z księżyca”, w którym w rolę Andy’ego wcielił się Jim Carrey, a jego malutką siostrę zagrała wnuczka bohatera, Brittany Colonna. Amerykański zespół R.E.M. stworzył piosenkę pt. „Man on the Moon”, która ukazała się na albumie „Automatic for the People”. Traktuje ona o legendzie Andiego Kaufmana.