Más de 1.100 empleados de las principales empresas de inteligencia artificial firmaron una petición en la que instan al gobierno de Estados Unidos a respaldar un mecanismo que permita "moderar deliberadamente" el desarrollo de la IA para evitar que la tecnología avance demasiado rápido, pocos días después de que el creador de ChatGPT revelara que sus herramientas habían hackeado por error los sistemas internos de otra empresa.
La carta ha sido firmada por trabajadores de cerca de una docena de compañías, entre ellas OpenAI, Anthropic PBC, Google, de Alphabet Inc., y Meta Platforms Inc.
Hasta la tarde del martes, varios ejecutivos, cofundadores y líderes de investigación en IA también habían suscrito la carta, entre ellos el director ejecutivo de Anthropic, Dario Amodei; el científico jefe de OpenAI, Jakub Pachocki; y el científico jefe de Meta Superintelligence Lab, Shengjia Zhao.
Anthropic publicó el martes en la red social X un mensaje de apoyo a la petición, señalando que sus propias investigaciones "apuntan a la necesidad de contar con herramientas para moderar deliberadamente la frontera del desarrollo de la IA, de modo que la sociedad pueda prepararse. Nos alegra ver un amplio consenso en todo el sector".
La petición insta a Estados Unidos a apoyar un esfuerzo internacional que permita establecer el ritmo al que se desarrollan sistemas de IA cada vez más sofisticados, si fuese necesario. El documento advierte que existe "un riesgo real" de que la IA avance más rápido de lo que las personas pueden "comprender o controlar", aludiendo a los avances en la automatización de la investigación en inteligencia artificial.
Bloomberg News informó previamente que empleados de distintas compañías estaban haciendo circular la petición.
"Solicitamos que el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para moderar deliberadamente la frontera del desarrollo automatizado de la inteligencia artificial", señala el texto.
OpenAI y Anthropic no respondieron a una solicitud de comentarios.
"Estamos comprometidos con desarrollar la IA de forma segura y protegida para beneficiar a la sociedad", dijo Google en un comunicado.
Más propuestas
La petición se hace eco de los recientes llamados de líderes del sector, entre ellos el director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Google DeepMind, Demis Hassabis, para crear un nuevo organismo internacional encargado de evaluar y establecer estándares para los modelos de IA más avanzados.
Anthropic también había propuesto anteriormente la creación de un sistema en el que gobiernos y desarrolladores de IA pudieran decidir de manera conjunta cuándo desacelerar el desarrollo de esta tecnología para reducir sus riesgos. "Sería positivo para el mundo contar con la opción de ralentizar o pausar temporalmente" los trabajos en IA que pudieran resultar peligrosos, señaló la empresa en junio.
Estas propuestas surgieron tras el creciente escrutinio sobre los avances de la IA para realizar tareas cada vez más complejas con una supervisión humana limitada, incluida la capacidad de detectar y potencialmente explotar vulnerabilidades de ciberseguridad en software crítico.
La semana pasada, OpenAI informó que sus modelos de IA más avanzados hackearon a la startup tecnológica Hugging Face en un incidente calificado como "sin precedentes". La revelación reavivó los llamados a imponer mayores restricciones al desarrollo de esta tecnología.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Inteligencia Artificial
{{/if}}
