Nato a Milano il 26 giugno 1933, figlio di un insegnante di violino, Claudio Abbado si diploma in pianoforte e direzione d'orchestra presso il Conservatorio di Milano nel 1955. Il primo riconoscimento arriva nel 1958, quando grazie al primo posto a un concorso in Massachussets debutta negli Stati Uniti con la New York Philarmonic. L'anno dopo arriva a Trieste come direttore sinfonico, e nel 1960 debutta alla Scala.
Nel 1963 viene invitato da Herbert Von Karajan a dirigere i Wiener Philharmoniker al Festival di Salisburgo, mentre il 1968 è l'anno del debutto al Covent Garden di Londra e alla Metropolitan Opera House di New York. Nel periodo della sua direzione della Scala (fino al 1986), Abbado mette in atto un profondo rinnovamento nella programmazione e nelle scelte artistiche, recuperando autori e opere a lungo dimenticati, non senza essere oggetto di critiche. Sotto la sua direzione, nel 1972, vennero inoltre inaugurati i Concerti per studenti e lavoratori, testimonianza della sua volontà di avvicinare alla musica classica anche classi meno abbienti. Nel 1971 divenne direttore principale del Wiener Philharmoniker, e dal 1979 al 1987 direttore musicale della London Symphony Orchestra. Dopo il lavoro alla Staatsoper di Vienna, passa ai Berliner Philharmoniker dal 1989 al 2002. Dal 2004 è stato direttore musicale e artistico dell'Orchestra Mozart di Bologna.
Il 30 agosto del 2013 è stato nominato senatore a vita dal Presidente della Repubblica Giorgio Napolitano, insieme a Renzo Piano, Elena Cattaneo e Carlo Rubbia, come "personalità da considerarsi portatrici di curricula e di doti davvero eccezionali, come attesta il prestigio mondiale di cui sono circondati".
È morto a Bologna il 20 gennaio 2014, dopo una lunga malattia. Aveva quasi 81 anni.