La decisión de la administración de Donald Trump de obligar a Anthropic a suspender sus modelos de inteligencia artificial más avanzados, apenas días después de que la compañía valorada en US$ 900 mil millones los lanzara al público, tomó por sorpresa a la industria de la IA y abrió interrogantes sobre el enfoque de Washington frente a esta tecnología.
El Departamento de Comercio impuso el viernes controles de exportación sobre los modelos más recientes de Anthropic, Fable y Mythos, prohibiendo que ciudadanos extranjeros utilicen la tecnología y obligando a la compañía a suspender ambos sistemas para todos los usuarios.
Según una persona cercana a la empresa, Anthropic recibió solo 90 minutos para cumplir la orden y no se le entregaron detalles específicos sobre las preocupaciones que motivaron la medida antes de que fuera emitida.
Durante el fin de semana, la compañía envió a Washington a un equipo técnico senior con el objetivo de contener las consecuencias de la decisión.
La directiva se produjo después de un informe de investigadores de Amazon que identificó un potencial “jailbreak” (puntos débiles) en Fable —un método para evadir las barreras de seguridad del modelo y extraer información sobre vulnerabilidades de seguridad en software—, según una persona familiarizada con el asunto. Amazon compartió inicialmente sus hallazgos con Anthropic.
Andy Jassy, CEO de Amazon, conversó sobre el tema con funcionarios estadounidenses el viernes, según personas conocedoras del asunto. Se entiende que Jassy, cuya compañía ha invertido US$ 13 mil millones en Anthropic, planteó preocupaciones más amplias sobre las capacidades de los modelos de frontera, en lugar de enfocarse específicamente en Anthropic.
Amazon señaló: “No es inusual que los gobiernos busquen nuestro asesoramiento sobre posibles riesgos de seguridad. Cuando ocurren estas situaciones, no compartimos los detalles de esas conversaciones”.
Los reparos de Anthropic
El modelo Fable había sido probado y aprobado para su lanzamiento días antes de su publicación por agencias del mismo departamento, dijeron personas cercanas al asunto.
Anthropic cuestiona que la administración haya apuntado específicamente contra sus modelos y argumenta que la capacidad detectada no es exclusiva de sus sistemas, sino que también puede demostrarse en modelos rivales, incluidos los desarrollados por OpenAI.
Resolver este tipo de problema requeriría semanas de investigación y desarrollo, sin garantía de que no aparezcan nuevas vulnerabilidades, según expertos en seguridad. Una persona cercana a Anthropic dijo que la compañía estaba trabajando estrechamente con el gobierno para encontrar puntos de acuerdo y definir los próximos pasos.
El conflicto se perfila como una primera prueba sobre cómo la administración Trump pretende supervisar modelos de IA cada vez más poderosos. Ejecutivos e investigadores señalan que utilizar controles de exportación para abordar un problema de seguridad de un modelo podría generar incertidumbre sobre el despliegue de sistemas de IA de frontera.
“Es un hecho ampliamente aceptado que no se pueden corregir completamente los jailbreaks en estos modelos; es una ciencia muy imprecisa”, dijo Helen Toner, exintegrante del directorio de OpenAI y directora ejecutiva del Centro para Seguridad y Tecnología Emergente de la Universidad de Georgetown. “Sin duda, el gobierno debería asumir que los modelos de OpenAI y Google son capaces de hacer cosas similares”.
La congelación impuesta por el gobierno, sin embargo, no afecta a los principales modelos del competidor de Anthropic, OpenAI, pese a que estos han demostrado capacidades comparables.
La intervención resulta especialmente llamativa porque Dario Amodei, CEO de Anthropic, ha sido uno de los líderes de IA más vocales al advertir sobre los riesgos que representan modelos cada vez más capaces.
Su último sistema, Mythos, ha demostrado la capacidad de superar algunas defensas cibernéticas existentes, y la compañía había estado trabajando con funcionarios del gobierno en un despliegue controlado antes de liberarlo más ampliamente la semana pasada.
La orden llega después de que altos funcionarios del gobierno y la dirección de Anthropic protagonizaran enfrentamientos públicos sobre temas como la regulación de la IA y el uso de la tecnología de Anthropic en vigilancia doméstica y armas autónomas letales. El Pentágono ha señalado a Anthropic como un riesgo para la cadena de suministro de seguridad nacional, y ambas partes mantienen un litigio por esa designación.
La administración Trump ha caracterizado la medida como una acción de seguridad nacional no relacionada con esas disputas. Un funcionario estadounidense dijo al Financial Times que corregir el jailbreak podría resolver el actual enfrentamiento.
Sin embargo, el secretario de Defensa, Pete Hegseth, vinculó el episodio con sus críticas previas hacia Anthropic. En una publicación en X, afirmó que su departamento había expulsado anteriormente a la compañía “de nuestro edificio, para siempre”, agregando: “Cada día que pasa demuestra por qué esa fue la decisión correcta”.
Aun así, funcionarios estadounidenses y ejecutivos de la compañía dijeron que el Pentágono y otras agencias estadounidenses seguían utilizando los modelos más avanzados de Anthropic.
La Comisión Europea, que recientemente obtuvo acceso a los últimos modelos de Anthropic, dijo que estaba evaluando las implicancias de la directiva para sus ciudadanos.
“Estos modelos ofrecen beneficios significativos, incluyendo para la ciberdefensa, pero también plantean serias preocupaciones de ciberseguridad que deben ser abordadas”, señaló la Comisión.
“Este es un desafío compartido, no uno limitado a una sola jurisdicción o compañía. Creemos que las medidas de contingencia adoptadas bajo esta perspectiva no deberían ser discriminatorias contra socios”.
Toner afirmó: “La herramienta que eligieron, el control de exportaciones, está muy mal adaptada para lo que intentan hacer. Impide que gobiernos extranjeros la utilicen y justamente ahora es el momento en que los aliados deberían usarla para la ciberdefensa”.
La Casa Blanca había señalado previamente un enfoque menos intervencionista respecto al despliegue de modelos de frontera. Una orden ejecutiva firmada a comienzos de este mes no incluía un mecanismo para que el gobierno estadounidense pudiera impedir el lanzamiento de un modelo.
Las principales compañías de IA han trabajado con el gobierno para implementar esa orden ejecutiva, dijo una persona cercana a OpenAI.
En los últimos días, la industria había estado trabajando para garantizar que investigadores extranjeros pudieran continuar participando en el desarrollo de los modelos más avanzados, una práctica que la directiva contra Anthropic ahora prohíbe, señaló esa persona.
Katie Moussouris, investigadora y CEO del grupo de ciberseguridad Luta Security, quien recibió una copia de los hallazgos de Amazon a través de Anthropic, dijo que las capacidades identificadas por Amazon —incluida la posibilidad de detectar potenciales vulnerabilidades cibernéticas— no eran inusuales. Señaló que modelos rivales, como GPT-5.5 de OpenAI, también podían hacer lo mismo.
Moussouris sostuvo que las llamadas “barreras de seguridad” (guardrails) del modelo estaban funcionando como se esperaba. “La administración se equivocó”, afirmó.
La Casa Blanca declinó hacer comentarios.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Inteligencia Artificial
{{/if}}
