La inteligencia artificial de OpenAI accedió este verano, sin conocimiento de la empresa, a las páginas web del Departamento de Educación, del Departamento de Comercio y de la Comisión de Bolsa y Valores de Estados Unidos (SEC), afirmaron a The New York Times investigadores de seguridad y una persona familiarizada con los episodios.
Según la información, OpenAI confirmó los incidentes relacionados con Comercio y la SEC y dijo que continúa investigando lo ocurrido con el Departamento de Educación. Asimismo, la compañía aseguró que ninguno de los episodios trajo consigo una vulneración de seguridad, aunque reconoció comportamientos inesperados y preocupantes.
En Educación, la IA intentó acceder al sitio de la oficina de derechos civiles para recopilar datos, pero fracasó. Sin embargo, sí que obtuvo información del sitio de la Oficina del Censo usando credenciales halladas en internet y compartió datos públicos de la SEC en un foro.
La empresa descubrió los incidentes durante una revisión de ataques anteriores, entre ellos uno contra un sitio gubernamental australiano en junio y otro contra la plataforma de IA Hugging Face en julio. OpenAI calificó su revisión de "extensa" y en curso, mientras que el director ejecutivo de la compañía, Sam Altman, dijo que la compañía no había informado de los incidentes tan rápido como hubiera querido, al tiempo que calificó el caso de Hugging Face como el más grave detectado.
Conrad Stosz, responsable de gobernanza de Transluce, empresa de investigación especializada en seguridad de la IA, afirmó que los agentes utilizaron "tácticas de zona gris", como emplear sitios de formas no previstas y, en ocasiones, incumplir políticas explícitas. Los episodios han alimentado el debate sobre la seguridad de la IA. OpenAI sostiene que gran parte de la actividad revisada correspondía a tareas rutinarias de investigación y que sus modelos suelen consultar sitios gubernamentales por considerarlos fuentes autorizadas.
