ChatGPT: Alucinaciones sobre personas amenazan a OpenAI

OpenAI bajo escrutinio en la UE por las alucinaciones de ChatGPT sobre personas

OpenAI, la empresa detrás del popular chatbot ChatGPT, enfrenta nuevamente el escrutinio de la Unión Europea. Esta vez, el grupo sin fines de lucro NOYB, que defiende los derechos de privacidad, ha presentado una queja ante la Autoridad de Protección de Datos de Austria (DPA) en nombre de un individuo por la incapacidad de ChatGPT para corregir información falsa generada sobre las personas.

Las alucinaciones de ChatGPT y el RGPD

Si bien las alucinaciones, o la tendencia de los modelos de lenguaje grandes (LLM) como ChatGPT a inventar información falsa o sin sentido, son comunes, NOYB centra su queja en el Reglamento General de Protección de Datos de la UE (GDPR), que regula cómo se recopilan y almacenan los datos personales de las personas en el bloque.

A pesar de los requisitos del RGPD, OpenAI admite abiertamente que no puede corregir información incorrecta en ChatGPT, dijo NOYB en un comunicado. La empresa tampoco puede decir de dónde provienen los datos o qué datos almacena ChatGPT sobre personas individuales.

El derecho a la rectificación

Según el RGPD, las personas en la UE tienen derecho a que se corrija la información incorrecta sobre ellas. NOYB sostiene que OpenAI incumple estas reglas debido a su incapacidad para corregir los datos.

Si bien las alucinaciones pueden ser tolerables para tareas como la generación de historias, NOYB argumenta que son inaceptables cuando se trata de generar información sobre personas.

El caso de NOYB contra OpenAI

En el caso de NOYB contra OpenAI, un individuo público preguntó a ChatGPT sobre su cumpleaños, pero recibió repetidamente información incorrecta. Según NOYB, OpenAI luego rechazó su solicitud de rectificar o borrar los datos, argumentando que no era posible corregirlos.

OpenAI supuestamente le dijo al denunciante que podía filtrar o bloquear los datos en ciertas indicaciones, como el nombre del denunciante.

Las peticiones de NOYB a la DPA

El grupo está pidiendo a la DPA que investigue cómo OpenAI procesa los datos y cómo garantiza datos personales precisos en la formación de sus LLM. NOYB también está pidiendo a la DPA que ordene a OpenAI que cumpla con la solicitud del denunciante de acceder a los datos, según lo exige el RGPD.

La obligación de cumplir con las solicitudes de acceso

"La obligación de cumplir con las solicitudes de acceso se aplica a todas las empresas", dijo Maartje de Graaf, abogada de protección de datos de NOYB, en un comunicado.

"Es claramente posible mantener registros de los datos de entrenamiento que se utilizaron, al menos para tener una idea sobre las fuentes de información. Parece que con cada innovación, otro grupo de empresas piensa que sus productos no tienen que cumplir con la ley".

Posibles sanciones

El incumplimiento de las reglas del RGPD puede dar lugar a sanciones de hasta 20 millones de euros o el 4% de la facturación anual global, cualquiera que sea el valor más alto. Incluso se pueden otorgar más daños si los individuos deciden buscarlos.

OpenAI ya se enfrenta a casos similares de protección de datos en los estados miembros de la UE, Italia y Polonia.

Este artículo apareció originalmente en Quartz.

Fuente: https://es.gizmodo.com/openai-escrutinio-europeo-chatgpt-alucinaciones-1851443022

¡Esperamos que haya sido de utilidad este artículo de la categoría tecnologia. Por cualquier consulta sobre los artículos presentados en esta Web por favor contactanos a redaccion@noticiaspuertosantacruz.com.ar. Recuerda que somos un medio independiente que está 100% automatizado con IA (Inteligencia Artificial) por lo que siempre te recomendamos que visites las fuentes originales de cada artículo presentado en esta web. Todavía no te vayas, ¡tenemos mucho más contenido interesante para vos! Te invitamos a explorar otros artículos similares a ChatGPT: Alucinaciones sobre personas amenazan a OpenAI en nuestra amplia colección sobre tecnologia.