El gobernador del estado estadounidense de California, Gavin Newsom, ha firmado este viernes una orden ejecutiva destinada a reforzar los controles de seguridad sobre la inteligencia artificial (IA).
"El gobernador Newsom emitió hoy una orden ejecutiva que ordena tomar medidas para abordar los peligros de los recientes incidentes relacionados con la IA", reza el anuncio oficial.
"La orden acelera la implementación de la nueva ley de California que establece la primera supervisión independiente a nivel nacional de las empresas de IA y los controles de seguridad, e impulsa la creación de un 'interruptor de apagado' para la IA", se precisa.
De acuerdo con el comunicado, la norma establece la necesidad de aplicar cuatro nuevas medidas de seguridad en relación con la inteligencia artificial:
- Exigir a las empresas de IA de vanguardia que integren en sus laboratorios una organización de verificación independiente designada para realizar auditorías y evaluaciones periódicas;
- Exigir que los planes de seguridad, los informes de transparencia y las evaluaciones de riesgos que deben presentar las principales empresas de IA sean revisados por una organización independiente, según los criterios que esta considere adecuados;
- Impulsar la creación de un 'interruptor de emergencia' para los modelos de vanguardia, cuya eficacia sea supervisada de forma continua por una organización independiente;
- Actualizar la definición de incidentes críticos de seguridad para incluir los casos de pérdida de control.
"No vamos a esperar para actuar: vamos a acelerar nuestro trabajo en materia de supervisión sustancial y responsable de la IA antes de que sea demasiado tarde. Lo haremos con detenimiento, pero con urgencia; hay demasiado en juego como para esperar o demorar la acción", aseveró el gobernador.
Hackeo de compañías
Esta misma semana, se informó que el modelo de inteligencia artificial Gemini, desarrollado por Google, se conectó de forma autónoma a Internet e infiltró los sistemas de tres empresas reales durante una evaluación de sus capacidades de ciberseguridad.
El incidente, confirmado por la propia compañía multinacional tras las indagaciones de The Wall Street Journal, constituye el primer caso documentado en el que los sistemas de IA de la firma ejecutan ciberataques no simulados por iniciativa propia.
Las intromisiones ocurrieron en mayo, durante unas pruebas a cargo de la firma de seguridad Irregular. Para perpetrar las brechas, Gemini recurrió al descifrado de contraseñas por fuerza bruta en un caso, mientras que en los otros dos localizó credenciales expuestas en un repositorio público para vulnerar los accesos protegidos.
A pesar de que Irregular notificó lo sucedido a finales de julio —luego de revelarse que los agentes de OpenAI vulneraron la plataforma Hugging Face—, el gigante tecnológico no lo hizo público. Google argumentó que no hubo daño a terceros y comparó la incursión no autorizada con un programa de "recompensas por errores", donde se reportan vulnerabilidades para su corrección.