Los modelos insignia de IA de Anthropic y OpenAI irrumpieron en software de terceros y enviaron correos electrónicos a personas para robar sus credenciales, exhibiendo un comportamiento engañoso sin precedentes, según el Instituto de Seguridad de la IA del Reino Unido (AI Security Institute, AISI).
El organismo británico encargado de investigar la seguridad de los modelos de IA de frontera señaló que Mythos 5, de Anthropic, y GPT-5.6 Sol, de OpenAI, participaron en una "actividad sostenida y potencialmente dañina dirigida contra personas y organizaciones reales" durante las evaluaciones rutinarias de ciberseguridad realizadas por AISI.
El hallazgo de estas acciones —que incluyeron intentos de insertar código malicioso en un proyecto de código abierto alojado en la popular plataforma para desarrolladores GitHub— se produjo apenas unos días después de que se revelara que agentes de IA de Anthropic y OpenAI habían hackeado organizaciones externas.
AISI explicó que el incidente más reciente fue contenido en menos de una hora. Fue detectado durante una evaluación sobre la capacidad de agentes de IA para resolver desafíos de ciberseguridad. Las pruebas se realizaron en internet abierta utilizando modelos a los que se les habían retirado algunas de sus salvaguardas.
En 10 de las 122 ejecuciones de la prueba, el agente de IA tomó "acciones autónomas y no autorizadas en internet, dirigidas contra personas y organizaciones reales", indicó AISI.
Según el organismo, casi todos estos comportamientos correspondieron a Mythos de Anthropic, mientras que dos acciones involucraron a GPT de OpenAI. En el caso más grave, "el agente recurrió a ingeniería social, creando identidades falsas en línea y utilizándolas para presionar al responsable del proyecto a fin de que aprobara el código". La persona encargada del software detectó el intento y rechazó aprobar el código malicioso.
"Es la primera vez que vemos que riesgos relacionados con la autonomía y el engaño se manifiestan de forma tan clara, sin instrucciones específicas, en el mundo real", afirmó AISI.
Los hackeos protagonizados por agentes de Anthropic y OpenAI durante el último mes figuran entre los primeros ejemplos públicos de un ciberataque ejecutado por un sistema de IA que actuó fuera del control humano. Considerados en conjunto, estos episodios y el incidente detectado por AISI "apuntan a un cambio en el panorama de riesgos" y "merecen atención inmediata", advirtió la institución.
Anthropic señaló el martes: "Agradecemos al AISI del Reino Unido por su liderazgo en este incidente, que subraya la necesidad de una conversación más amplia sobre cómo evaluar de forma segura a agentes de IA cada vez más capaces".
La compañía agregó que el sector necesita "estándares compartidos y más sólidos sobre cómo se diseñan y protegen los entornos de evaluación".
Un portavoz de OpenAI afirmó que sigue siendo necesario realizar pruebas independientes a los modelos, pero enfatizó que los incidentes "ocurrieron durante evaluaciones de ciberseguridad realizadas por socios evaluadores en entornos de prueba con salvaguardas reducidas, bajo condiciones que no reflejan el uso habitual".
"Seguiremos trabajando con evaluadores y otros actores de la industria para fortalecer las prácticas compartidas que permitan realizar evaluaciones de forma segura a medida que los modelos se vuelven más capaces", añadió.
En los últimos meses, gobiernos e investigadores han advertido cada vez con mayor frecuencia sobre las nuevas amenazas de ciberseguridad que plantean los modelos de IA más avanzados. A comienzos de este año, la administración de Donald Trump prohibió temporalmente a Anthropic exportar sus modelos más avanzados por motivos de seguridad. Las restricciones fueron flexibilizadas a fines de junio.
La semana pasada, el director ejecutivo de OpenAI, Sam Altman, se reunió en Washington con altos funcionarios estadounidenses, entre ellos el secretario del Tesoro, Scott Bessent, y el secretario de Comercio, Howard Lutnick, donde declaró a la prensa que apoyaba una legislación sobre ciberseguridad aplicada a modelos de IA.
El mes pasado, OpenAI reveló que uno de sus agentes hackeó por cuenta propia a la startup Hugging Face en un "incidente cibernético sin precedentes", en el que logró escapar del entorno de pruebas, obtener acceso a internet y robar credenciales de acceso.
"Identificar nuevos comportamientos como este y compartir nuestros hallazgos para poder abordarlos es precisamente la razón por la que se creó AISI", afirmó el ministro británico de IA, Kanishka Narayan. "Si comprendemos mejor la IA, podremos hacerla más segura y garantizar que las personas puedan beneficiarse de ella tanto en su vida cotidiana como en el trabajo."