W latach 70. XX wieku zawiązał udaną współpracę z Ritchiem Blackmore’em – gitarzystą Deep Purple, a jej owocem był zespół Rainbow. Dio stał się szybko rosnąca ikoną kultury rockowej, a album Rising podbił listy przebojów. W roku 1979 zastąpił w Black Sabbath Ozzy’ego Osbourne’a, wydał z zespołem 4 albumy: Heaven and Hell, Mob Rules, Dehumanizer oraz Live Evil. Był to pierwszy z 3 okresów współpracy Dio z Black Sabbath, a szczególnie z Tonym Iommim. Pomimo początkowych sukcesów „odnowionej” grupy, fani nie pogodzili się z jej rozłamem i zmianą brzmienia. Nastąpił kolejny kryzys w zespole z uwagi na problemy przy montażu Live Evil. Perkusista Vinnie Appice i Dio opuścili Black Sabbath. Stało się to motywacją do solowej kariery i utworzenia zespołu Dio jeszcze w roku 1982.
W 1984 Ronnie James Dio zebrał ponad 40 osób ze świata heavy metalu oraz hard rocka (między innymi wokalistę Judas Priest Roba Halforda, gitarzystów Iron Maiden Dave’a Murraya i Adriana Smitha i gitarzystę Yngwiego Malmsteena) i zorganizował akcję Hear ’n Aid, która zdobyła milion dolarów na cele charytatywne. W 1991 Ronnie James Dio wrócił do kolegów z Black Sabbath i wspólnie nagrali najcięższy w historii zespołu album Dehumanizer (1992). Kolejny album z tym zespołem nagrał na przełomie 2006 i 2007 roku.