Gobernador de California veta proyecto de ley de seguridad de inteligencia artificial

El gobernador de California, Gavin Newsom, ha vetado un polémico proyecto de ley sobre **Inteligencia Artificial** (IA) que habría obligado a las empresas a garantizar que sus modelos de IA no causen daños graves. El proyecto de ley, denominado SB 1047, estaba destinado a ser una de las piezas de **regulación** de IA más importantes de los Estados Unidos, dada la posición central de California en el ecosistema tecnológico y la falta de legislación federal para la IA.

Críticas a la regulación excesiva

"Aunque tiene buenas intenciones, el SB 1047 no tiene en cuenta si un sistema de IA se despliega en entornos de alto riesgo, implica una toma de decisiones crucial o el uso de datos confidenciales", escribió el gobernador en un comunicado el domingo. "En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que las despliegue un sistema grande. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología".

En una carta que explicaba su decisión de vetar el proyecto de ley, Newsom escribió que está de acuerdo con los defensores del proyecto de ley en que "no podemos permitirnos esperar a que ocurra una catástrofe importante antes de tomar medidas para proteger al público", pero que cualquier **regulación** "debe basarse en evidencia empírica y ciencia". El gobernador señaló su orden ejecutiva sobre IA, así como varios otros proyectos de ley que ha firmado en las últimas semanas que **regulan** la tecnología en torno a "riesgos conocidos específicos" como los deepfakes.

Riesgos y protecciones

El SB 1047 exigía que las empresas que desarrollan potentes modelos de IA tuvieran "cuidado razonable" para garantizar que sus tecnologías no causen "daños graves" como víctimas masivas o daños materiales superiores a 500 millones de dólares. El proyecto de ley, que fue presentado por el senador estatal demócrata Scott Wiener y aprobado por el Senado estatal en mayo, habría requerido que las empresas tomen precauciones como implementar un interruptor de apagado que podría desactivar su tecnología en cualquier momento.

Además, el proyecto de ley habría creado protecciones para denunciantes para empleados de empresas de IA que deseen compartir inquietudes de seguridad. Las empresas que no cumplieran con el proyecto de ley podrían haber sido demandadas por el fiscal general de California.

Preocupaciones de la industria

Los partidarios argumentaron que el SB 1047 crearía estándares legales de sentido común para responsabilizar a las empresas de IA. Pero los capitalistas de riesgo, los líderes de empresas emergentes y empresas como OpenAI dijeron que el proyecto de ley podría dañar la innovación y quizás incluso expulsar a las empresas de IA del estado.

"La revolución de la IA apenas comienza, y el estatus único de California como líder mundial en IA está impulsando el dinamismo económico del estado", escribió Jason Kwon, director de estrategia de OpenAI, en una carta el mes pasado oponiéndose a la legislación. "El SB 1047 amenazaría ese crecimiento, ralentizaría el ritmo de la innovación y llevaría a los ingenieros y empresarios de clase mundial de California a abandonar el estado en busca de mayores oportunidades en otros lugares".

Oposición de legisladores

Los legisladores, entre ellos la ex presidenta de la Cámara de Representantes Nancy Pelosi, el representante Ro Khanna y la alcaldesa de San Francisco, London Breed, también expresaron su oposición, haciéndose eco de las preocupaciones de la industria tecnológica de que el proyecto de ley podría obstaculizar el liderazgo de California en la innovación de IA.

Newsom dijo recientemente que le preocupaba que el proyecto de ley pudiera tener un "efecto paralizador" en el desarrollo de la IA. El proyecto de ley también había obtenido el respaldo de algunos nombres notables en tecnología a fines del mes pasado en los días previos a su aprobación por la legislatura de California.

Elon Musk expresó inesperadamente su apoyo, aunque dijo que es una "decisión difícil y molestará a algunas personas". Anthropic, el rival de OpenAI, que tiene fama de estar orientado a la seguridad, dijo que "los beneficios probablemente superan sus costos", aunque la compañía dijo que algunos aspectos del SB 1047 seguían siendo "preocupantes o ambiguos para nosotros".

Acción continua

Wiener había defendido el proyecto de ley, enfatizando que sus disposiciones solo se aplican a empresas que gastan más de $100 millones en entrenar modelos grandes o $10 millones en modelos de ajuste fino, lo que eximiría a la mayoría de las empresas emergentes más pequeñas. El legislador también ha dicho que si bien apoyaría la legislación federal, el Congreso ha sido históricamente lento en regular la tecnología y que, en ausencia de una acción nacional, cree que el estado tiene la responsabilidad de liderar.

Junto con su anuncio de veto del SB 1047, Newsom dijo que realizará un análisis de los riesgos y capacidades de los modelos de IA líderes dirigido por varios académicos, incluida la académica e investigadora de IA Fei-Fei Li. El gobernador también firmó un proyecto de ley el domingo, SB 896, que **regula** cómo las agencias estatales utilizan la IA y ordena a varias agencias que elaboren un informe sobre los riesgos y beneficios de la tecnología.

Fuente: https://finance.yahoo.com/news/gavin-newsom-vetoes-california-contentious-204645141.html