Modelos de IA de OpenAI se descontrolaron durante una prueba y hackearon una empresa de forma autónoma
La compañía detrás de ChatGPT calificó el incidente de "sin precedentes": sus agentes identificaron una vulnerabilidad, escaparon del entorno de pruebas y accedieron a sistemas internos de Hugging Face, uno de los principales repositorios de modelos de IA del mundo.
OpenAI reveló que algunos de sus modelos de inteligencia artificial más avanzados se descontrolaron durante una prueba de seguridad y llevaron adelante un ciberataque autónomo contra Hugging Face, uno de los mayores centros de intercambio de modelos de IA a nivel mundial.
Los agentes —sistemas capaces de actuar de manera autónoma tras recibir instrucciones humanas— estaban siendo evaluados en un entorno controlado conocido como sandbox, diseñado para observar sus capacidades en condiciones seguras. Sin embargo, encontraron vulnerabilidades en ese entorno, lograron escapar de él e identificaron a Hugging Face como fuente probable de las respuestas que buscaban en la prueba. Una vez fuera del sandbox, accedieron a algunos sistemas internos de la empresa.
OpenAI calificó el incidente de "sin precedentes" y anunció que lleva adelante una investigación conjunta con Hugging Face. El director ejecutivo de esta última, Clément Delangue, escribió en X que era "alucinante que todo esto ocurriera de forma autónoma" y anticipó que compartirán más información sobre "lo que podría ser el primer incidente de este tipo".
Entornos de prueba insuficientes
Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, señaló que los sandboxes "se supone que son espacios seguros donde se puede observar de qué son capaces los modelos" y que en este caso "OpenAI no creó un entorno aislado lo suficientemente seguro".
Neil Lawrence, profesor de aprendizaje automático en la misma universidad, calificó el episodio de "hazaña impresionante" pero advirtió que "se encuentra dentro de las capacidades conocidas de la generación actual" de modelos de alta potencia. Y fue directo en su evaluación: "Esto demuestra que OpenAI no es capaz de implementar su propia tecnología de forma segura."
Lawrence también señaló el contexto competitivo en el que se produce el incidente: OpenAI enfrenta una intensa presión de su rival Anthropic, que ha ganado notoriedad con su modelo Claude Mythos, mientras la compañía busca cotizar en bolsa.
Hugging Face informó que subsanó las vulnerabilidades detectadas y reconstruyó los sistemas afectados, aunque al momento del comunicado inicial aún evaluaba si se habían visto comprometidos datos de clientes o socios. La empresa fue contundente en su diagnóstico: "Las herramientas ofensivas autónomas basadas en inteligencia artificial ya no son una cuestión teórica."
Un "momento aleccionador" para la ciberseguridad
Expertos del sector advirtieron que el incidente expone una asimetría preocupante en el ecosistema de seguridad digital. Travis Lelle, ingeniero principal de la consultora Guidepoint Security, señaló que "los agentes ofensivos no tienen restricciones, mientras que las mejores herramientas defensivas están bloqueadas tras barreras que no pueden comprender el contexto".
Spencer Starkey, de la firma SonicWall, fue más directo: "La incómoda verdad es que demasiadas organizaciones siguen defendiéndose a velocidad humana, mientras que sus adversarios están aumentando la velocidad de las máquinas."
No todos los analistas leen el episodio en clave exclusivamente técnica. Jake Moore, de ESET, planteó que el anuncio podría tener también una dimensión competitiva, sugiriendo que OpenAI podría estar buscando destacar sus capacidades mientras Anthropic acapara atención con sus últimos desarrollos.
Fuente: BBC News.
