La propuesta contempla además auditores independientes dentro de los laboratorios de las principales compañías del sector
El gobernador de California, Gavin Newsom, ordenó este viernes a su Administración evaluar la creación de un mecanismo de emergencia que permita apagar los modelos de inteligencia artificial más avanzados, como parte de nuevas medidas para reforzar la supervisión de esta tecnología.
La iniciativa contempla un denominado “interruptor de apagado” o kill switch, cuya eficacia sería comprobada de manera continua por organizaciones certificadoras independientes. También se analiza la posibilidad de establecer auditorías permanentes dentro de los laboratorios de las principales empresas desarrolladoras de IA.
La Agencia de Operaciones Gubernamentales de California deberá presentar antes del 16 de noviembre recomendaciones sobre la viabilidad técnica de estas medidas y posibles reformas a las leyes estatales de seguridad relacionadas con la inteligencia artificial.
Newsom sostuvo que California continuará actuando mientras espera una regulación federal más amplia en Estados Unidos. El gobernador también ha pedido al Congreso estadounidense avanzar en un marco integral de seguridad para la inteligencia artificial.
El estado ya ha adoptado distintas medidas para regular esta tecnología. Entre ellas figuran disposiciones sobre falsificaciones digitales (deepfakes), marcas de agua, protección de menores y trabajadores, además de normas que exigen a grandes empresas de IA divulgar sus protocolos de seguridad.
La propuesta se conoce en medio de un debate cada vez más amplio en Estados Unidos sobre los riesgos y controles que deberían aplicarse al desarrollo de sistemas avanzados de inteligencia artificial.