Cuidado: OpenAI teme el uso malicioso de su tecnología de clonación de voz

OpenAI presenta Voice Engine: Clonación de audio basada en IA con potencial y preocupaciones

El poder de la clonación de voz

OpenAI ha anunciado Voice Engine, una herramienta de clonación de audio basada en IA que utiliza una muestra de 15 segundos para crear voces realistas. Esta tecnología tiene el potencial de mejorar la asistencia de lectura, dar voz a quienes la han perdido y facilitar la traducción de idiomas.

Preocupaciones éticas

Sin embargo, OpenAI reconoce los posibles abusos de esta tecnología. La clonación de voz podría usarse para engañar, estafar o difundir información errónea. La compañía está comprometida con el desarrollo responsable de la IA y está adoptando un enfoque cauteloso para el lanzamiento de Voice Engine.

Aplicaciones prácticas

Asistencia de lectura

Voice Engine puede proporcionar asistencia de lectura a personas con discapacidades visuales o de lectura. Al clonar la voz de un ser querido o un profesional, la tecnología puede leer libros, artículos y otros materiales de forma natural.

Dar voz a los perdidos

Para aquellos que han perdido la voz debido a una enfermedad o lesión, Voice Engine puede proporcionarles un medio para comunicarse. La tecnología puede clonar sus voces anteriores, permitiéndoles expresarse y conectarse con otros.

Traducción de idiomas

Voice Engine también puede facilitar la traducción de idiomas. Al clonar la voz de un hablante nativo, la tecnología puede traducir textos y discursos a un nuevo idioma, manteniendo la entonación y el tono del hablante original.

Herramientas de clonación de voz existentes

Si bien OpenAI es un recién llegado al campo de la clonación de voz, ya existen varias herramientas disponibles. OnceLabs y Respeecher son dos ejemplos de empresas que ofrecen servicios de clonación de voz. Sin embargo, la tecnología de OpenAI se destaca por su capacidad para crear voces realistas con solo una muestra de 15 segundos.

El potencial para el abuso

El potencial de abuso de la tecnología de clonación de voz es significativo. Los estafadores pueden usar voces falsas para engañar a las personas y obtener información personal o financiera. La tecnología también podría usarse para difundir información errónea o crear contenido de audio falso.

Estamos adoptando un enfoque cauteloso e informado para un lanzamiento más amplio debido al potencial de uso indebido de la voz sintética.

Declaración de OpenAI

El camino a seguir

OpenAI está adoptando un enfoque responsable para el lanzamiento de Voice Engine. La compañía está llevando a cabo pruebas a pequeña escala y recopilando comentarios para comprender mejor los posibles riesgos y beneficios de la tecnología. El lanzamiento público de Voice Engine dependerá de los resultados de estas pruebas y de las conversaciones en curso sobre el uso responsable de las voces sintéticas.

Fuente: https://es.gizmodo.com/nueva-herramienta-de-clonacion-de-voz-de-openai-que-se-1851375269