Riesgo emergente
Barrera rota (IA): modelos OpenAI burlaron y atacaron plataforma de inteligencia artificial.
Los agentes explotaron una falla desconocida, obtuvieron acceso a internet y buscaron respuestas de ExploitGym. Ambas firmas investigan el alcance del episodio y endurecieron sus controles.
Una evaluación diseñada para medir las capacidades ofensivas de sistemas avanzados de inteligencia artificial terminó provocando un incidente real.
Dos modelos de OpenAI lograron abandonar el entorno aislado donde eran examinados, conectarse a internet y alcanzar parte de la infraestructura de Hugging Face.
La prueba, denominada ExploitGym, se realizaba con restricciones de seguridad reducidas para conocer el máximo potencial de los agentes.
En ese escenario, los sistemas descubrieron una vulnerabilidad desconocida en un servicio intermediario, ampliaron sus privilegios y llegaron hasta un nodo con acceso a la red pública.
A partir de allí, orientaron su búsqueda hacia Hugging Face al deducir que la plataforma podía contener información útil para superar la evaluación.
La secuencia incluyó el uso de credenciales sustraídas y otras fallas hasta conseguir ejecutar código de manera remota en servidores externos.
Según reconstruyó la periodista Laura Cress para BBC News Mundo, los modelos no recibieron una orden humana específica para atacar a la compañía.
La intrusión surgió como una consecuencia imprevista de las instrucciones generales, la autonomía concedida y las debilidades del aislamiento utilizado.
El equipo de seguridad de Hugging Face detectó la actividad y consiguió detenerla.
La empresa confirmó accesos sin autorización a un conjunto limitado de datos internos y credenciales, aunque hasta el momento no encontró indicios de alteraciones en modelos, bases públicas o aplicaciones disponibles para los usuarios.
Tras contener el episodio, la plataforma cerró las rutas vulnerables, reconstruyó los nodos comprometidos, renovó credenciales y reforzó sus sistemas de vigilancia.
OpenAI también anunció controles más estrictos, una revisión forense conjunta y nuevas medidas para futuras instancias de entrenamiento y evaluación.
El caso abrió además una discusión sobre la responsabilidad humana.
Especialistas advirtieron que las protecciones habían sido reducidas deliberadamente y que los agentes actuaban dentro de una prueba orientada a buscar rutas avanzadas de explotación, por lo que el comportamiento no puede separarse del diseño del ensayo.
Más allá de esa controversia, el episodio dejó una señal concreta para la industria: los sistemas más potentes ya pueden descubrir y combinar vulnerabilidades con una velocidad que obliga a fortalecer tanto las barreras de contención como las herramientas de defensa.