Lorsque Black Sabbath remercia Ozzy Osbourne en le remplaçant par Dio, toute la communauté metal était en pleurs. Si bien, que mêmes les labels se posaient la question de comment aller survivre le groupe sans son chanteur si charismatique. Le groupe continua malgré tout et c'est avec l'aide de Sharon Osbourne que Black Sabbath réussi à se remettre en selle. C'est ainsi que le 25 avril 1980, le groupe britannique revient au devant de la scène avec l'album "Heaven and Hell".
Au départ, l'idée était de travailler sur un projet parallèle avec Ronnie James Dio, le temps qu'Ozzy remonte la pente. C'est à ce moment là que Sharon qui travaillait pour son père Don Arden, le manager du groupe, suggéra de remplacer Ozzy par le mystérieux et puissant chanteur du groupe Rainbow.
Quand Dio et Toni Iommi commencèrent à travailler ensemble, ils se sont rendus compte qu'ils avaient beaucoup de points communs sur comment faire avancer le groupe musicalement et artistiquement.
Lorsque les deux principaux compositeurs de la seconde génération de Black Sabbath travaillaient dur pour redresser la barre, le batteur Bill Ward faisait des aller retour réguliers en centre de désintoxication à cause de ses problèmes d'alcool et le bassiste Geezer Butler avait plus ou moins quitté l'aventure pour développer un projet musical personnel. Dio et Iommi n'avaient pas d'autres choix que de trouver des remplaçants.
Après de longues semaines de tractation, il fut convenu que le groupe resterait tel qu'il est car Ward et Butler restaient intéressés par le projet.
Avec les chansons 'Neon Knights' et 'Heaven and Hell', Black Sabbath a retrouvé toute sa vigueur et son énergie que l'on avait pu remarquer sur l'album "Sabotage" cinq ans plus tôt. Pour la première fois depuis des années, Black Sabbath revenait au top, prêt à combattre le système!
Malgré cet enthousiasme retrouvé, la maison de disque demeura sceptique quand au succès d'un futur album sans Ozzy et refusa de produire le groupe. Black Sabbath n'a pas eu d'autres choix que de s'autoproduire et de travailler rapidement pour sauver ce qu'il restait du groupe.
Black Sabbath enregistra "Heaven and Hell" entre octobre 1979 et janvier 1980 au Miami’s Criteria Studios sous la tutelle de Martin Birch qui les encouragea à tenter des structures musicales différentes afin de convenir à la puissance vocale de Dio.
Le résultat fut étonnant. 'Children of the Sea' était majestueux tandis que 'Lady Evil' et 'Wishing Well' employaient un rythme bluesy sur une mélodie simple accompagnée de soli psychédéliques. Puis 'Die Young', débutant avec un plan atmosphérique à la Pink Floyd avec des parties jouées au clavier et par dessus le chant mélancolique de Dio.
A sa sortie, l'album se classa n°28 du Billboard et devint rapidement disque de platine. Et le plus important, Black Sabbath démontra qu'il pouvait rester toujours aussi fort même sans Ozzy Osbourne!