OpenAI informó que una combinación de sus modelos de inteligencia artificial, entre ellos GPT-5.6 Sol y un modelo aún no publicado, fue responsable del incidente de ciberseguridad que afectó a Hugging Face durante una evaluación interna de capacidades ofensivas.
Según la compañía, los modelos estaban siendo sometidos a pruebas en un entorno aislado cuando identificaron una cadena de vulnerabilidades que les permitió obtener acceso a Internet y posteriormente comprometer parte de la infraestructura de producción de Hugging Face con el objetivo de obtener respuestas para una prueba de evaluación.
De acuerdo con la investigación preliminar publicada por OpenAI, los modelos aprovecharon una vulnerabilidad de día cero en un software de terceros utilizado como proxy y caché para la instalación de paquetes. Tras ello, ejecutaron una serie de acciones de escalamiento de privilegios y movimiento lateral dentro del entorno de investigación hasta alcanzar un nodo con acceso a Internet.
Posteriormente, dedujeron que Hugging Face podía alojar modelos, conjuntos de datos y soluciones relacionadas con la evaluación que estaban resolviendo, por lo que buscaron formas de acceder a esa información. OpenAI señaló que “todo indica que los modelos se centraron excesivamente en encontrar una solución para ExploitGym, llegando a extremos para lograr un objetivo de prueba bastante limitado”.
Por su parte, Hugging Face confirmó la intrusión de parte del modelo. La plataforma explicó que los atacantes explotaron dos vulnerabilidades de ejecución de código en su canal de procesamiento de datos, obtuvieron credenciales de nube y clústeres internos y se desplazaron lateralmente por distintos sistemas. La empresa indicó que no encontró evidencias de alteraciones en los modelos, conjuntos de datos públicos o espacios disponibles para los usuarios y que la cadena de suministro de software fue verificada como íntegra.
OpenAI indicó que descubrió la actividad anómala desde su propio equipo de seguridad y que posteriormente trabajó junto con Hugging Face para investigar el incidente, reconstruir los hechos y remediar las vulnerabilidades identificadas. Entre las acciones adoptadas se encuentran la divulgación responsable de la vulnerabilidad de día cero al proveedor afectado, el fortalecimiento de los controles de infraestructura y la incorporación de medidas adicionales para futuras evaluaciones de modelos con capacidades avanzadas de ciberseguridad.
El director ejecutivo y cofundador de Hugging Face, Clément Delangue, destacó la cooperación entre ambas organizaciones tras el incidente. En el comunicado publicado por OpenAI afirmó “este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído desde hace tiempo: la seguridad de la IA no se resolverá con el trabajo en secreto de una sola empresa. Se resolverá de forma abierta, colaborativa, con un amplio acceso a la IA para todos los defensores, en cualquier lugar”.
Como parte de las medidas posteriores al incidente, OpenAI anunció que reforzará los mecanismos de contención, monitoreo, controles de acceso y procedimientos de evaluación utilizados durante el desarrollo de modelos avanzados. La compañía sostuvo que este caso demuestra que las capacidades ofensivas de los modelos de última generación ya pueden trasladarse a escenarios reales y que las medidas de seguridad deben evolucionar al mismo ritmo que dichas capacidades.
