El ataque autónomo perpetrado por un modelo de OpenAI contra la infraestructura de Hugging Face —plataforma especializada en aprendizaje automático— pasó desapercibido para su empresa creadora hasta mucho después de haberse consumado, según reportó este sábado la agencia Reuters citando fuentes cercanas al caso.
De acuerdo con los informantes, el agente, un programa diseñado para tomar decisiones y ejecutar tareas complejas con mínima supervisión, intentó evadir su entorno de pruebas aislado en OpenAI hacia el 9 de julio. Dos días después, el 11 de julio, inició una intrusión en Hugging Face que se prolongó durante 48 horas, según confirmó Thomas Wolf, cofundador de la plataforma afectada
El 16 de julio, Hugging Face denunció públicamente haber sido vulnerada por "un sistema de agente de IA autónomo". Fue a raíz de esta noticia que OpenAI descubrió que su propio algoritmo era el responsable, lo que indicaría que transcurrió al menos una semana desde que el sistema mostró los primeros signos de comportamiento errático, señala el artículo
Para el momento en que OpenAI se comunicó con Hugging Face, esta última ya había notificado del ataque al FBI, aseguró una fuente familiarizada con el asunto.
De acuerdo con el comunicado, se trata de un incidente cibernético "sin precedentes", que ambas compañías consideran que podría ser el primer caso divulgado públicamente en el que un modelo de IA se infiltra por su propia cuenta en los sistemas de otra empresa durante una evaluación controlada.
¿Cómo sucedió?
Según detalló OpenAI, el episodio ocurrió en el marco de una evaluación interna diseñada para medir las capacidades cibernéticas avanzadas de varios de sus modelos, incluido el GPT-5.6 Sol, en la que los investigadores desactivaron algunas de las salvaguardas de seguridad integradas y ejecutaron los modelos en un entorno de pruebas aislado con acceso limitado a Internet.
La compañía explicó que los modelos explotaron un fallo de 'software' desconocido para acceder a Internet y, posteriormente, vulneraron los sistemas de Hugging Face, en lo que parece haber sido un intento de encontrar las respuestas para una prueba de rendimiento de ciberseguridad. El equipo de seguridad de OpenAI detectó la actividad inusual, mientras que Hugging Face, de manera independiente, identificó y contuvo la intrusión.
"Sospechábamos que el ciberataque de la semana pasada podría haber procedido de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Y resulta que así fue! Hemos pasado las últimas 24 horas trabajando en estrecha colaboración con el equipo de OpenAI", escribió Clément Delangue, CEO y cofundador de Hugging Face, el martes en X.