Pod koniec lat 60. zawiesił karierę muzyczną z powodu powołania do wojska – trafił do Straży Przybrzeżnej. Przez dwa lata studiował biznes, ekonomię i prawo na Uniwersytecie w Lund. Po przerwaniu studiów wydał swoje pierwsze solowe single: „Raring” i „Fröken Fredriksson” (będące szwedzkojęzycznymi coverami amerykańskich piosenek: „Honey” Bobby’ego Goldsboro i „Harper Valley PTA” Jeannie C. Riley), które zostały ciepło przyjęte przez publiczność. W 1970 z Bennym Anderssonem wydał album pt. Lycka.
W 1972 wraz z Agnethą Fältskog, Bennym Anderssonem i Anni-Frid Lyngstad założył zespół ABBA, w którym udzielał się m.in. jako współtwórca większości piosenek. W 1974, reprezentując Szwecję z utworem „Waterloo”, zwyciężyli w finale 19. Konkursu Piosenki Eurowizji. Do zawieszenia działalności w 1982 wydali osiem albumów studyjnych: Ring Ring (1973), Waterloo (1974), ABBA (1975), Arrival (1976), The Album (1977), Voulez-Vous (1979), Super Trouper (1980), The Visitors (1981). W 2021 premierę miał dziewiąty album ABBY pt. Voyage.