Un "agente" de OpenAI descubrió nuevas vulnerabilidades e irrumpió por sí solo en la startup Hugging Face, en uno de los primeros casos públicos de un ciberataque ejecutado por un sistema de inteligencia artificial actuando fuera del control humano.
La startup desarrolladora de ChatGPT informó el martes que el "incidente cibernético sin precedentes" involucró a un agente —un programa de IA capaz de operar de forma autónoma a partir de instrucciones humanas— que escapó de un entorno de pruebas, obtuvo acceso a internet y robó credenciales de inicio de sesión.
El reconocimiento llega en un momento en que crece la preocupación por las implicancias de los sistemas de IA avanzados capaces de infiltrarse en infraestructuras digitales, especialmente ante escenarios en los que los agentes logran eludir los controles establecidos por los humanos.
"Cada vez más común"
OpenAI señaló el martes que espera que este tipo de incidentes se vuelva "cada vez más común, a medida que proliferen modelos con capacidades cibernéticas cada vez más avanzadas".
El incidente se produce mientras el director ejecutivo de la compañía, Sam Altman, se prepara para viajar la próxima semana a Washington para informar al gobierno de Estados Unidos sobre las próximas generaciones de modelos de IA.
La administración estadounidense ha mostrado un creciente interés en evaluar los nuevos modelos antes de su lanzamiento, tras la preocupación internacional generada por Mythos, el modelo de Anthropic, debido a su avanzada capacidad para detectar y explotar vulnerabilidades informáticas.
Según OpenAI, el incidente involucró una combinación de varios de sus modelos, entre ellos GPT-5.6 Sol, lanzado a comienzos de este mes, así como otro modelo aún más potente que estaba siendo sometido a pruebas antes de su lanzamiento.
"Consideramos que este incidente constituye un hecho sin precedentes en materia de ciberseguridad, que involucra capacidades cibernéticas de última generación, y estamos respondiendo en consecuencia", señaló OpenAI en una publicación en su blog.
Hugging Face, startup especializada en alojar modelos y conjuntos de datos de IA para desarrolladores, informó que fue vulnerada el viernes pasado por un agente de inteligencia artificial externo.
"La semana pasada sospechamos que el ciberataque podía provenir de un laboratorio de IA de frontera, dado el grado de sofisticación del agente", escribió en X el director ejecutivo de la compañía, Clément Delangue.
Delangue agregó que la empresa pasó el último día trabajando estrechamente con OpenAI y afirmó que "creemos firmemente que no hubo ninguna intención maliciosa por su parte. ¡Es realmente asombroso que todo esto haya ocurrido de manera autónoma!".
¿Qué sucedió?
OpenAI había reducido deliberadamente sus mecanismos de protección cibernética para evaluar ambos modelos en un entorno de pruebas. Sin embargo, los agentes operaban dentro de un "sandbox", un entorno aislado diseñado para controlar los sistemas e impedir que accedieran a internet.
Según la compañía, los modelos recibieron la instrucción de intentar realizar un hackeo con el fin de evaluar sus capacidades en ciberseguridad y, posteriormente, "dedicaron una cantidad considerable de poder de cómputo a encontrar una forma de obtener acceso libre a internet".
Los modelos "identificaron y explotaron" vulnerabilidades previamente desconocidas para escapar del entorno aislado, obtener acceso a internet y continuar con su objetivo. Entre las acciones realizadas estuvo el robo de credenciales —datos de inicio de sesión— para ejecutar el ataque.
Hugging Face señaló en una publicación de blog que, después de que un modelo estadounidense de frontera (frontier model) rechazara solicitudes de ayuda por motivos de seguridad, recurrió a GLM 5.2, desarrollado por la empresa china Z.ai, para analizar el ataque.
A diferencia de los modelos estadounidenses más avanzados, los principales modelos chinos son de pesos abiertos (open-weight), lo que significa que sus parámetros pueden descargarse y modificarse para adaptarlos a las necesidades de cada usuario.
La decisión de Hugging Face ha llamado la atención de la comunidad tecnológica en un momento de creciente preocupación tanto en Silicon Valley como en Washington por los avances que están logrando las principales compañías chinas de inteligencia artificial.
OpenAI informó al Financial Times que comunicó el incidente a las fuerzas de seguridad y a otras autoridades gubernamentales competentes.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
OpenAI
{{/if}}
