Usuario de 4Chan utiliza un simulador de voz de IA para falsificar la voz de Emma Watson y la obliga a leer la autobiografía de Hitler
Los exempleados de Google y Palantir lanzaron juntos la startup Elevenlabs, cuyo objetivo era crear audio falso de alta calidad de celebridades a través de su herramienta de clonación de voz de IA. Pero su lanzamiento beta pronto fracasó y muchos abusaron de las voces de las celebridades, incluida Emma Watson, a través de la herramienta de clonación de voz AI.
Muchos fanáticos se enfurecieron por el uso poco ético e inmoral de la herramienta de inteligencia artificial después de que algunos trolls abusaran de sus voces de celebridades favoritas para hacer comentarios escandalosos. Pero la startup les ha asegurado a todos que van a cambiar su modelo para evitar más problemas.
Los fanáticos se enfurecieron después de que el usuario de 4Chan abusara de la voz de Emma Watson a través de la herramienta AI
La introducción de la herramienta de clonación de voz AI de Elevenlabs ha incendiado Internet después de que numerosos trolls hayan estado explotando el uso de esta herramienta gratuita. Aunque muchos han estado usando el software para generar contenido saludable, una parte de Internet ha abusado de la herramienta para hacer que las celebridades arrojen insultos raciales y comentarios escandalosos, y el mal uso de emma watson La voz fue la gota que colmó el vaso.
Recientemente. Motherboard informó sobre el abuso extremo del software de inteligencia artificial para crear un audio falso y ofensivo. Pero la gota que colmó el vaso fue un usuario de 4Chan, que generó un clip de la harry potter estrella Emma Watson leyendo mi pelea , la autobiografía del dictador nazi Adolf Hitler.
Los fanáticos se han enfurecido por este uso poco ético del software por parte de Emma Watson y otras celebridades de renombre, incluidos Joe Rogan, Robin Williams, etc. Elevenlabs, que puso la tecnología a disposición del público, ha abordado este problema creciente y se ha comprometido a luchar contra el abuso de su herramienta de clonación de voz.
Lea también: El director de 'Prisionero de Azkaban' le pidió al trío de Harry Potter que escribiera un ensayo sobre su personaje: Emma Watson escribió 16 páginas, Daniel Radcliffe tuvo un resumen de 1 página, Rupert Grint no escribió uno
Elevenlabs promete evitar más abusos de la herramienta de IA
La Startup también se sintió abrumada por la respuesta positiva al principio, ya que muchos estaban usando la herramienta de clonación de voz de IA para una creación saludable. Pero la empresa pronto enfrentó un problema después de que los trolls comenzaran a explotar el software con fines nefastos. Elevenlabs ha asegurado a Internet que están investigando profundamente el asunto y descubriendo las posibles soluciones.
Aunque los creadores de Elevenlabs admitieron que pueden rastrear a los usuarios que abusan del poder de la herramienta de IA, están buscando medidas de seguridad adicionales para evitar este problema. Los creadores compartieron diferentes ideas para abordar el asunto, que incluye una introducción de verificación manual para cada clonación y verificación de identidad completa del usuario mediante pago o cualquier otro método.
Aunque la prueba beta de Startup tuvo un comienzo mixto, con muchos fanáticos enfurecidos por el uso poco ético de voces de celebridades a través de la herramienta de inteligencia artificial, especialmente Emma Watson. Pero la gente también ha reconocido a la startup por no ignorar la situación y tomar medidas activas para lidiar con estos trolls de Internet.
Fuente: Vicio
