Estados Unidos examinará las implicancias para la seguridad nacional de nuevos modelos de inteligencia artificial de Google DeepMind, Microsoft y xAI antes de que sean lanzados al público, en momentos en que las autoridades buscan una mayor supervisión de esta poderosa tecnología.
El Center for AI Standards and Innovation, que depende del Departamento de Comercio, informó el martes que firmó un acuerdo con los grupos tecnológicos para “realizar evaluaciones previas al despliegue e investigación específica”.
Indicó que las revisiones permitirán al Gobierno “evaluar mejor las capacidades de la IA de frontera y avanzar en el estado de la seguridad de la IA”.
La medida se produce mientras la Casa Blanca evalúa nuevas acciones para analizar modelos avanzados antes de su lanzamiento masivo, según personas familiarizadas con el asunto.
Asesores del Presidente de Estados Unidos, Donald Trump, han considerado una orden ejecutiva para imponer estas evaluaciones, aunque las discusiones están en una etapa inicial.
Altos funcionarios estadounidenses se han mostrado preocupados por versiones preliminares del nuevo modelo Mythos de Anthropic, que según la compañía tiene una capacidad mucho mayor para identificar y explotar vulnerabilidades de ciberseguridad.
El director ejecutivo de Anthropic, Dario Amodei, se reunió el mes pasado con la jefa de gabinete de la Casa Blanca, Susie Wiles, en una señal de distensión entre el laboratorio de IA y el Gobierno.
La startup había sido catalogada como una amenaza para la seguridad nacional por negarse a permitir al Pentágono el uso irrestricto de su tecnología. Anthropic está demandando a la administración por esa designación.
Posteriormente, Trump adoptó un tono conciliador y señaló en una entrevista con CNBC que Anthropic “está mejorando” y que “creo que nos llevaremos bien con ellos”.
El acuerdo del lunes es similar a uno firmado con Anthropic y OpenAI durante la administración de Joe Biden hace dos años, cuando Caisi era conocido como el US Artificial Intelligence Safety Institute. Bajo ese pacto, que replicaba la política del Reino Unido, el Gobierno podía acceder a los modelos antes de su lanzamiento público para evaluar y mitigar riesgos de seguridad.
Según Caisi, los acuerdos anteriores han permitido realizar más de 40 evaluaciones hasta la fecha. Investigadores del organismo reciben habitualmente acceso a nuevos modelos con salvaguardas eliminadas o reducidas, para poder analizar sus capacidades y riesgos.
Las evaluaciones se centran en capacidades de IA que podrían representar riesgos para la seguridad nacional, con especial énfasis en ciberseguridad, bioseguridad y armas químicas. La agencia también lidera evaluaciones de sistemas de IA desarrollados en China y coordina sus conclusiones con el Pentágono, la Casa Blanca y agencias de inteligencia.
“La medición independiente y rigurosa es esencial para comprender la IA de frontera y sus implicancias para la seguridad nacional”, dijo el director de la agencia, Chris Fall. “Estas colaboraciones ampliadas con la industria nos ayudan a escalar nuestro trabajo en el interés público en un momento crítico”.
El mes pasado, representantes de la industria tecnológica y activistas por la seguridad en IA pidieron al Congreso asignar más recursos a Caisi para ayudar a “abordar los complejos desafíos que presentan los sistemas de IA”.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
IA
