W 1965 na Festiwalu w Salzburgu po raz pierwszy dyrygował Wiedeńskimi Filharmonikami. Od 1986 do 1991 roku był dyrektorem artystycznym Staatsoper w Wiedniu i jednocześnie Filharmoników Wiedeńskich, kierując m.in. słynnymi wykonaniami: Borysa Godunowa, nieczęsto wystawianej Chowańszczyzny Musorgskiego, Fierrabrasa Schuberta i Podróży do Reims Rossiniego.

Od 1979 do 1987 był głównym dyrygentem London Symphony Orchestra, a w 1989 objął po Herbercie von Karajanie stanowisko głównego dyrygenta Berliner Philharmoniker, które opuścił w 2002 i przeszedł na emeryturę.

Abbado wykonywał i nagrywał wiele dzieł muzyki romantycznej. Znany jest również ze swoich interpretacji muzyki współczesnej (Arnold Schönberg, Karlheinz Stockhausen, Luigi Nono).

W roku 1998 stworzył festiwal muzyczny Wien Modern, którego formuła uległa od tego czasu poszerzeniu i obecnie uwzględnia wszystkie przejawy sztuki współczesnej. Festiwal odbywał się co roku pod kierownictwem założyciela. Abbado chętnie pracował także z młodymi muzykami. Był założycielem i dyrektorem European Union Youth Orchestra (1978) i Gustav Mahler Jugend Orchestra (1986).

Dyrygował orkiestrą Berliner Philharmoniker podczas nagrywania albumu Moment of Glory zespołu Scorpions. Płyta została wydana w 2000.