Acuerdos entre startups de IA y el Gobierno de EE. UU. para evaluar la seguridad

Las crecientes empresas de inteligencia artificial OpenAI y Anthropic han firmado acuerdos con el gobierno de los Estados Unidos para investigar, probar y evaluar sus modelos de inteligencia artificial, según declaró el Instituto de Seguridad de Inteligencia Artificial de los Estados Unidos el jueves.

Investigación y Evaluación Conjunta

Estos acuerdos sin precedentes se producen en un momento en que las empresas se enfrentan a un escrutinio normativo sobre el uso seguro y ético de las tecnologías de inteligencia artificial. Los legisladores de California tienen previsto votar un proyecto de ley esta semana para regular ampliamente el desarrollo y despliegue de la inteligencia artificial en el estado.

En virtud de estos acuerdos, el Instituto de Seguridad de Inteligencia Artificial de los Estados Unidos tendrá acceso a importantes nuevos modelos tanto de OpenAI como de Anthropic antes y después de su publicación pública.

Los acuerdos también permitirán una investigación colaborativa para evaluar las capacidades de los modelos de inteligencia artificial y los riesgos asociados a ellos.

Colaboración para la Seguridad y el Liderazgo

"Creemos que el instituto tiene un papel fundamental que desempeñar en la definición del liderazgo estadounidense en el desarrollo responsable de la inteligencia artificial y esperamos que nuestro trabajo conjunto ofrezca un marco en el que el resto del mundo pueda apoyarse".

Jason Kwon, director de estrategia de OpenAI

Anthropic, que cuenta con el respaldo de Amazon y Alphabet, no respondió inmediatamente a una solicitud de comentarios de Reuters.

"Estos acuerdos son solo el comienzo, pero son un hito importante en nuestro trabajo para ayudar a guiar responsablemente el futuro de la inteligencia artificial", dijo Elizabeth Kelly, directora del Instituto de Seguridad de Inteligencia Artificial de los Estados Unidos.

Marco para el Desarrollo Responsable

El instituto, que forma parte del Instituto Nacional de Normas y Tecnología (NIST) del Departamento de Comercio de los Estados Unidos, también colaborará con el Instituto de Seguridad de Inteligencia Artificial del Reino Unido y proporcionará información a las empresas sobre posibles mejoras de seguridad.

El Instituto de Seguridad de Inteligencia Artificial de los Estados Unidos se creó el año pasado como parte de una orden ejecutiva de la administración del presidente Joe Biden para evaluar los riesgos conocidos y emergentes de los modelos de inteligencia artificial.

Fuente: https://finance.yahoo.com/news/openai-anthropic-sign-deals-us-125551272.html