Los Ángeles.- El gobernador de California, Gavin Newsom, firmó este viernes 18 de septiembre una orden ejecutiva para avanzar en el análisis de un posible “interruptor de apagado” para sistemas avanzados de inteligencia artificial, como parte de nuevas medidas de supervisión y seguridad para esta tecnología.
La medida no establece de manera inmediata un mecanismo para desconectar sistemas de IA, sino que instruye a las agencias estatales a estudiar su viabilidad y presentar recomendaciones durante los próximos dos meses.
Entre las propuestas se encuentra exigir que los desarrolladores de modelos avanzados incorporen mecanismos capaces de detener sus sistemas en situaciones de emergencia, además de verificar periódicamente que estos funcionen de manera adecuada.
La orden también contempla analizar la presencia de organizaciones independientes de verificación dentro de los laboratorios de las empresas de inteligencia artificial, con el objetivo de realizar auditorías y evaluaciones relacionadas con seguridad y riesgos.
Asimismo, las autoridades deberán estudiar mecanismos para fortalecer los reportes de incidentes considerados críticos, incluidos aquellos en los que sistemas de inteligencia artificial puedan actuar fuera de los parámetros establecidos por sus desarrolladores.
Newsom sostuvo que California busca acelerar la regulación y supervisión de estas tecnologías ante lo que considera una insuficiente respuesta del gobierno federal. El gobernador contrastó su estrategia con la del presidente Donald Trump, quien esta semana minimizó algunos de los temores relacionados con la IA y llamó a las empresas estadounidenses a continuar su desarrollo para mantener la competencia tecnológica frente a China.
La iniciativa se produce en momentos en que investigadores y directivos del sector tecnológico han incrementado los llamados para establecer mayores controles sobre los modelos de inteligencia artificial más avanzados.
California, sede de Silicon Valley y de algunas de las principales compañías tecnológicas del mundo, ya cuenta con legislación relacionada con auditorías independientes, transparencia, seguridad de modelos avanzados, privacidad y otros aspectos vinculados con el desarrollo y utilización de la inteligencia artificial.
La nueva orden busca acelerar la aplicación de estas disposiciones y evaluar medidas adicionales para responder a posibles incidentes de seguridad, entre ellas el denominado “interruptor de apagado” que permitiría detener modelos avanzados de IA ante determinadas situaciones de emergencia.
Hola, déjenos un comentario