California evalúa imponer un "interruptor de apagado" a las empresas de IA

El gobernador de California, Gavin Newsom, ordenó a su Administración evaluar la creación de un "interruptor de apagado" obligatorio para los modelos de inteligencia artificial más avanzados, así como la instalación permanente de auditores independientes dentro de los laboratorios de las principales empresas del sector.

Newsom firmó este viernes una nueva orden ejecutiva que endurece la vigilancia sobre las empresas de inteligencia artificial del estado en momentos en que Washington no ha logrado avanzar en una regulación federal para el sector.

La orden instruye a la Agencia de Operaciones Gubernamentales de California a presentar antes del 16 de noviembre recomendaciones sobre la viabilidad técnica de reformar las leyes estatales vigentes en materia de seguridad de la IA, elaboradas en consulta con expertos nacionales.

Entre los puntos que deberá analizar figuran la obligatoriedad de que los llamados "grandes desarrolladores de frontera" (las empresas que crean los modelos de IA más avanzados) integren de forma permanente a auditores independientes dentro de sus instalaciones, así como la creación de un mecanismo de apagado de emergencia, un "kill switch", cuya eficacia sería verificada de manera continua por esas mismas organizaciones certificadoras.

"Washington D.C. tiene que hacer su trabajo" 

"California hará lo que puede hacer, pero la nación tiene que entrar al juego, Washington D.C. tiene que hacer su trabajo", dijo Newsom en una publicación en X.

El gobernador californiano, quien es visto como un posible aspirante a la presidencia de EE. UU. en 2028, señaló que resulta "notable" que el Congreso se haya tomado un receso a mitad de año, y llamó al presidente de la Cámara de Representantes, Mike Johnson, y a sus colegas legisladores a regresar de su descanso.

Un "marco de seguridad integral" como estándar mínimo, dijo, es "lo mínimo" que se puede esperar de ellos. "Nuestro modelo funciona y si el congreso no actúa, California sí", añadió.

• California se ha situado a la vanguardia en materia de regulación de la inteligencia artificial con la implementación de medidas pioneras.

El estado lideró un proyecto en 2024 para abordar temas como las falsificaciones profundas (deepfakes), las marcas de agua digitales, la infancia y los trabajadores.

Además promulgó una medida pionera para exigir que las mayores empresas de IA divulguen públicamente sus protocolos de seguridad y firmó dos proyectos de ley para proteger la imagen digital de los artistas del uso de las actuaciones generadas por IA.

El estado cuenta con la Ley de Transparencia de IA que exige el uso de marcas de agua en contenidos de esta tecnología y obliga a las empresas a ofrecer herramientas de detección y avisos informativos.