Sharon Arden, la hija del representante Don Arden y futura esposa de Ozzy Osbourne, propuso al antiguo vocalista de Rainbow, Ronnie James Dio, como reemplazo de Ozzy en 1979. Dio se unió oficialmente en junio, y la banda comenzó a escribir su nuevo disco. A causa del diferente estilo vocal de Dio, el sonido de Black Sabbath cambió. «Eran totalmente diferentes», explica Iommi. «No sólo con respecto a la voz, sino a la actitud. Ozzy era un gran showman, pero cuando Dio llegó, era una actitud diferente, una voz diferente y una propuesta musical diferente, más allá de la voz. Dio cantaba a través del riff, mientras que Ozzy lo seguía, como en "Iron Man". Ronnie llegó y nos dio otro ángulo desde el cual componer».
El bajista Geezer Butler dejó la banda temporalmente en septiembre de 1979, y fue reemplazado en principio por Geoff Nicholls de Quartz. La nueva alineación entró en los Criteria Studios en noviembre para comenzar la grabación del álbum. Dos meses después, Butler regresó a la banda y Nicholls se encargó del teclado. Producido por Martin Birch, Heaven and Hell fue publicado el 25 de abril de 1980 con buenas críticas. Más de una década después de su publicación, Allmusic dijo que el álbum era «una de las grabaciones con más calidad de Sabbath, la banda suena totalmente renacida y con nuevas energías». Heaven and Hell llegó al noveno puesto en el Reino Unido y al veintidós en Estados Unidos, el mayor éxito desde Sabotage. Además, el sencillo «Neon Knights» obtuvo gran repercusión. El disco acabó vendiendo más de un millón de copias en Estados Unidos, y la banda se embarcó en una gira mundial, haciendo su primer concierto con Dio en Alemania el 17 de abril de 1980.
La banda acabó la gira Heaven and Hell en febrero de 1981, y regresó al estudio para componer su siguiente obra. El segundo álbum de Black Sabbath en ser producido por Martin Birch y en tener como vocalista a Ronnie James Dio, Mob Rules, salió al mercado en octubre de 1981, siendo bien recibido por el público, pero no tan bien por la crítica. La revista Rolling Stone aseguró que «Mob Rules presenta a la banda más torpe y flatulenta que nunca". Como con muchos trabajos anteriores de la banda, el tiempo ayudó a cambiar la perspectiva de la crítica. Una década después, Allmusic escribió sobre Mob Rules que era un «magnífico álbum». El álbum fue certificado disco de oro y alcanzó el top veinte en las listas británicas. La canción «The Mob Rules», grabada en la vieja mansión de John Lennon en Inglaterra, aparece en la película de animación Heavy Metal, aunque es una versión alternativa, distinta de la versión original del álbum.
Ronnie James Dio dejó Black Sabbath en noviembre de 1982 para comenzar su propia banda, Dio, y se llevó al baterista Vinny Apice con él. Live Evil vio la luz en enero de 1983, pero fue ensombrecido por Speak of the Devil de Ozzy Osbourne, un álbum en directo certificado como disco de platino, que contiene solo canciones de Black Sabbath, y que había sido publicado cinco meses antes.
Con solo dos miembros originales restantes, Tony Iommi y Geezer Butler comenzaron a hacer audiciones para el futuro álbum de la banda. Después de varios intentos fallidos con David Coverdale de Whitesnake, Nicky Moore de Samson y John Sloman de Lone Star, la banda finalmente se decidió por el vocalista de Deep Purple, Ian Gillan, para reemplazar a Ronnie James Dio en 1983. Aunque la primera idea era que el proyecto no se llamara Black Sabbath, las presiones de la compañía discográfica forzaron a la banda a mantener el nombre. La banda entró en The Manor Studio de Shipton-on-Cherwell, Oxfordshire, Reino Unido, en junio de 1983, con Bill Ward de vuelta y sobrio en su puesto de batería. El nuevo álbum, Born Again, se encontró con reseñas diversas de críticos y seguidores. El álbum alcanzó el puesto número cuatro en las listas británicas y el puesto número 39 en las de Estados Unidos. Aun así, casi una década después de su lanzamiento, el crítico de Allmusic Eduardo Rivadavia calificó el álbum de «espantoso», añadiendo que «el estilo blues de Gillan y las letras humorísticas eran totalmente incompatibles con los señores de las penumbras».
La banda pasó el resto del año en el estudio, grabando lo que sería Seventh Star. Warner Bros. se negó a lanzarlo como un álbum en solitario de Tony Iommi, insistiendo en usar nuevamente el nombre de Black Sabbath. Presionados por el representante de la banda, Don Arden, ambos decidieron lanzar el álbum como «Black Sabbath featuring Tony Iommi» en enero de 1986. «Realmente fue meterse en camisa de once varas», explicó Iommi, «porque creo que si lo hubiésemos podido lanzar como un álbum en solitario, habría tenido mucha mejor aceptación». Seventh Star, que sonaba poco a álbum de Black Sabbath, incorporaba más elementos de hard rock popularizados por la escena rock de Sunset Strip de los años 1980, y fue criticado por los periodistas musicales de la época, aunque reseñas posteriores como la de Allmusic fueron positivas, diciendo del álbum que era «a menudo incomprendido y subestimado».
Tras casi un año de producción, se lanzó The Eternal Idol el 8 de diciembre de 1987, siendo ignorado por los críticos del momento. Las reseñas aparecidas posteriormente en las páginas especializadas de internet son tanto positivas como negativas. Allmusic dijo que «la poderosa voz de Martin añadía fuego nuevo» a la banda y que el álbum contenía «algunos de los riffs más duros de Iommi en años». Blender le concedió al álbum dos estrellas, diciendo que el álbum era «Black Sabbath sólo de nombre». El álbum llegó al número 66 en el Reino Unido y al 168 en Estados Unidos. La banda hizo gira de promoción de The Eternal Idol en Alemania, Italia y, por primera vez, Grecia. Desafortunadamente, en parte debido la reacción de los promotores respecto al incidente de Sudáfrica, se cancelaron otros conciertos por Europa. El bajista Dave Spitz abandonó la banda poco antes de la gira, siendo sustituido por Jo Burt, antiguo miembro de Virginia Wolf.
En abril de 1989 Black Sabbath lanzó Headless Cross, nuevamente ignorado por los críticos de la época. Finalmente, Allmusic concedió cuatro estrellas de cinco al álbum, llamándolo «el álbum mejor de Black Sabbath sin Ozzy ni Dio». El álbum llegó al puesto número treinta y uno de la lista de álbumes británica y el sencillo extraído del mismo, «Headless Cross», se posicionó en el puesto número sesenta y dos de la lista de sencillos. En Estados Unidos llegó al puesto número 115 de la lista del Billboard.
La banda volvió al estudio en febrero de 1990 para grabar Tyr, la continuación de Headless Cross. Aunque técnicamente no es un álbum conceptual, algunos de los temas de las letras están basadas, en términos generales, en la mitología nórdica. Tyr fue lanzado el 6 de agosto de 1990, llegando al puesto número 24 en la lista de álbumes británica, aunque fue el primer álbum de Black Sabbath que no entró en el Billboard 200 de Estados Unidos.
Dehumanizer, se lanzó el 22 de junio de 1992. En Estados Unidos, el álbum se publicó el 30 de junio de 1992 a través de Reprise Records, ya que Ronnie James Dio y su banda homónima todavía tenían contrato con esa discográfica. Aunque el álbum recibió reseñas de distinta índole tuvo el mayor éxito comercial de la banda de los últimos diez años. En cierta medida gracias al sencillo «TV Crimes», el álbum llegó al puesto número 44 de la lista Billboard 200. En el álbum también se puede encontrar la canción «Time Machine», de la cual aparece una versión regrabada en la película de 1992 Wayne's World. Bajo la presión de la discográfica, la banda lanzó su decimoséptimo álbum de estudio, Cross Purposes, el 8 de febrero de 1994, usando el nombre de Black Sabbath. Nuevamente el álbum recibió críticas diversas.
En junio de 2013 salió a la venta el decimonoveno álbum de estudio de la banda, llamado 13, grabado entre agosto de 2012 y enero de 2013 en Shangri La Studios, Malibu, California, y Tone Hall, Warwickshire, Reino Unido. El disco fue publicado por la discográfica Vertigo y la producción corrió a cago de Rick Rubin. Brad Wilk de Rage Against the Machine se encargó de sustituir a Bill Ward a la batería. La versión estándar del disco consta de ocho canciones, mientras que la versión deluxe consta de tres pistas adicionales.
El primer sencillo de 13 se titula "God Is Dead?" y se lanzó el 19 de abril de 2013. El 20 de abril de 2013, Black Sabbath comenzó su primera gira por Australia y Nueva Zelanda en más de cuarenta años, y seguirá con una amplia gira por Estados Unidos entre julio y agosto. Black Sabbath llega por primera vez a México y en noviembre llega también por primera vez a Costa Rica promocionando "13". El segundo sencillo del disco es "End of the Beginning", que debutó en el episodio del 15 de mayo de CSI: Crime Scene Investigation, en el cual aparecen los tres miembros de la banda. Se lanzó un tercer sencillo para el álbum, titulado "Loner".
En junio de 2013, 13 llegó a lo más alto de las listas UK Albums Chart y Billboard 200.
Black Sabbath es considerada una de las bandas de heavy metal más influyentes de todos los tiempos. La banda ayudó a crear el género con lanzamientos tan innovadores como Paranoid, un álbum del que la revista Rolling Stone dijo que «cambió la música para siempre», llamando a la banda «los Beatles del heavy metal». Time Magazine dijo de Paranoid que fue «el lugar de nacimiento del heavy metal», incluyéndolo en su lista de los 100 mejores álbumes de todos los tiempos. MTV colocó a Black Sabbath en el primer puesto de su lista de las 10 mejores bandas del heavy metal, mientras que VH1 les puso en el puesto número dos de su lista de los 100 mejores artistas del hard rock. VH1 puso la canción «Iron Man» en el puesto número uno de su lista de las 40 mejores canciones de metal.