Detector de IA: OpenAI revela una herramienta para desenmascarar imágenes generadas por IA

La inteligencia artificial (IA) ha experimentado un auge notable, trayendo consigo avances asombrosos. Sin embargo, también ha suscitado preocupaciones, una de las cuales es la proliferación de deepfakes, contenido sintético que puede manipularse para engañar.

Combatir los deepfakes: la herramienta de detección de OpenAI

Para combatir esta amenaza, OpenAI ha desarrollado una herramienta para detectar imágenes creadas con su propia IA generativa, DALL-E 3. La compañía ha anunciado que está trabajando en nuevos métodos para mejorar la integridad del contenido digital, incluida una herramienta que predice si una imagen fue generada por DALL-E 3, su propio modelo de IA.

Precisión y limitaciones

OpenAI afirma que las primeras pruebas son prometedoras, con su herramienta identificando correctamente las imágenes creadas con su IA con un 98% de precisión. Sin embargo, reconocen que este clasificador no es infalible. Si bien soporta modificaciones menores como compresión, recorte o cambios de saturación, una edición mayor podría reducir su rendimiento.

Además, su eficacia es menor para contenido generado por otras IA generativas, marcando solo entre un 5% y un 10% en su conjunto de datos interno.

Disponibilidad y uso

OpenAI ha abierto su herramienta de detección de imágenes a un grupo cerrado de científicos, investigadores y organizaciones sin fines de lucro de periodismo. Esta prueba servirá para mejorar y refinar la clasificación de contenido generado por IA en futuras versiones.

"Nuestro objetivo es permitir una investigación independiente que evalúe la efectividad del clasificador, analice su aplicación en el mundo real, surja consideraciones relevantes para dicho uso y explore las características de la IA", dijo OpenAI.

Contexto histórico

Esta no es la primera vez que OpenAI anuncia una herramienta para detectar contenido generado por IA. En febrero de 2023, la compañía presentó un clasificador para identificar si un texto había sido generado con ChatGPT y modelos similares.

Aunque la idea era buena, su rendimiento dejó mucho que desear en sus primeras pruebas. El clasificador solo identificó el 26% del texto escrito por IA y clasificó erróneamente el 9% del contenido humano como generado por IA.

Meses después, OpenAI retiró la herramienta de su sitio web debido a su baja eficacia. "A partir del 20 de julio de 2023, el clasificador de IA ya no está disponible debido a su baja tasa de precisión", anunció OpenAI.

Credenciales de contenido digital

Además del clasificador, OpenAI se ha unido a otros gigantes tecnológicos para establecer un sistema de credenciales de contenido digital. La compañía se unió al comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).

OpenAI reveló que agregará metadatos del estándar C2PA a todas las imágenes creadas y editadas por DALL-E 3. "Creemos que este tipo de metadatos será algo que la gente esperará, llenando un vacío crucial en las prácticas de autenticidad del contenido digital", declaró OpenAI.

Fuente: https://hipertextual.com/2024/05/openai-herramienta-detecta-imagenes-ia-generativa

¡Esperamos que haya sido de utilidad este artículo de la categoría Inteligencia Artificial. Por cualquier consulta sobre los artículos presentados en esta Web por favor contactanos a redaccion@noticiaspuertosantacruz.com.ar. Recuerda que somos un medio independiente que está 100% automatizado con IA (Inteligencia Artificial) por lo que siempre te recomendamos que visites las fuentes originales de cada artículo presentado en esta web. Todavía no te vayas, ¡tenemos mucho más contenido interesante para vos! Te invitamos a explorar otros artículos similares a Detector de IA: OpenAI revela una herramienta para desenmascarar imágenes generadas por IA en nuestra amplia colección sobre Inteligencia Artificial.