Dyrygował w MET, Londynie, Bayreuth, Salzburgu i na innych scenach.
Kojarzony dzięki doskonałym nagraniom z twórczością Mozarta czy Straussa, Böhm w późniejszym okresie nagrywał także z powodzeniem dzieła Wagnera. Nagrany przez niego z Bayreuther Festspiele Pierścień Nibelunga (1967–1971) bywa wymieniany razem z nagraniami Herberta von Karajana (Berliner Philharmoniker) czy sir Georga Soltiego (Wiener Philharmoniker), wielkim uznaniem cieszy się także jego nagranie wagnerowskiego Tristana i Izoldy, także z Bayreuth. Z równym powodzeniem dyrygował dziełami Verdiego, Beethovena, Brahmsa, Schuberta, Brucknera czy Berga.
Dyrygował najbardziej uznanymi zespołami, takimi jak Filharmonicy Wiedeńscy i Berlińscy, Orkiestrą MET, London Symphony Orchestra. Współpracował z największymi śpiewakami swoich czasów, jak Erich Kunz, Anton Dermota, Birgit Nilsson, Christa Ludwig, Leonie Rysanek, Theo Adam czy Wolfgang Windgassen.
Zmarł w trakcie przygotowań do festiwalu w Salzburgu.
Jego synem był Karlheinz Böhm, austriacki aktor, a wnuczką Katharina Böhm – aktorka, córka Barbary Kwiatkowskiej-Lass.