Hace pocos días, los principales rivales de la industria de la inteligencia artificial (IA) generativa se unían en un llamado conjunto a desacelerar su desarrollo. Hoy, ese abrazo ya se rompió y lo que queda es un mapa con dos bandos bien definidos.
Por un lado, los laboratorios que construyen los modelos más avanzados del mundo piden prudencia: Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (SpaceX y xAI) y Demis Hassabis (Google DeepMind) coincidieron en que la carrera por desarrollar IA más poderosa va demasiado rápido para las salvaguardas existentes.
Pero en las últimas horas apareció otro bando, liderado por Jensen Huang (Nvidia) y Mark Zuckerberg (Meta), quienes respondieron el martes con un mensaje opuesto: cada empresa puede y debe resolver sus propios riesgos, sin necesidad de coordinación ni nuevas leyes.
Parte de esta historia tuvo un nuevo capítulo en el escenario de Dreamforce, la conferencia anual de Salesforce en San Francisco, donde Amodei, Altman y Huang aparecieron en sesiones consecutivas.
El sector de la prudencia
Todo comenzó el sábado 12 de septiembre, cuando Amodei publicó un ensayo en el que el cofundador y CEO de Anthropic, la compañía detrás de Claude, advirtió que la automejora recursiva de los modelos de IA -la capacidad de los sistemas para diseñar a sus propios sucesores- evoluciona más rápido de lo que los investigadores pueden entender, y llamó a ralentizar su desarrollo para avanzar en seguridad.
Las adhesiones llegaron rápido. Musk secundó a Amodei en su red X y Altman dijo que coincidía y prometió que OpenAI, firma detrás de ChatGPT, permitiría a evaluadores independientes acceder a sus sistemas. Hassabis, en tanto, declaró que el ensayo va por “el camino correcto” en un “momento crítico”.
Altman fue más lejos al postergar la salida a bolsa de OpenAI. “Dado todo lo que está pasando con la seguridad, este sería un momento poco aconsejable para salir a bolsa”, dijo en una entrevista con Fortune, y en la conferencia Dreamforce afirmó que el mundo “tiene razón en tener miedo”, pero matizó sus dichos al señalar que “solo ralentizaremos o seremos responsables si los demás también lo hacen”.
Autorregulación
Huang, el líder de la empresa más valiosa del mundo y uno de los principales proveedores de infraestructura para la IA -semiconductores y unidades de procesamiento gráfico (GPU)-, respondió desde Dreamforce el martes con un mensaje más frontal. “Las fuerzas del mercado ya están ahí. No necesitamos nuevas leyes, no necesitamos nuevas regulaciones”, afirmó.
El CEO de Nvidia calificó el dilema entre velocidad e innovación como una “falsa dicotomía” y definió la seguridad de la IA como un “problema de ingeniería, no legal”. El ejecutivo agregó que “si desarrollas un producto y no tienes confianza en su seguridad, simplemente no lo lances”.
Horas después, Zuckerberg publicó su posición en X: “Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de manera segura”.
El CEO de Meta -matriz de Facebook e Instagram y responsable de Llama, un modelo de código abierto-, sostuvo que la confianza y el alineamiento “se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos”, lo que convierte la seguridad en una ventaja competitiva y no en un freno.
“Meta retrasó el lanzamiento de Muse por varios meses para enfocarse en la seguridad y la protección. No pedimos que todos los demás hicieran lo mismo antes de que nosotros lo hiciéramos. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para las personas y para nosotros”, afirmó.
Esta mirada compartida entre ambos ejecutivos no es casual, puesto que Huang y Zuckerberg lideran el campo de los modelos abiertos, cuya filosofía depende de la distribución libre y personalización.
Empresas: reducir dependencias
Para el socio y director de Boston Consulting Group (BCG), Julián Herman, presentar el debate como un “acelerar versus frenar” simplifica demasiado la discusión.
“Todos coinciden en que la seguridad importa. La diferencia está en quién controla el freno, bajo qué estándares y con qué grado de coordinación”, señaló. “Parece haber más acuerdo sobre la necesidad de evaluar los modelos que sobre quién puede obligar a detenerlos”, agregó.
Para graficar lo anterior, Herman recordó el antecedente de Claude Mythos, el modelo avanzado de Anthropic cuyo lanzamiento fue retrasado por la compañía debido a riesgos cibernéticos, y cuyo acceso terminó siendo restringido por el gobierno de Estados Unidos.
Eso sugiere que “el escenario más probable no es una pausa global, sino velocidades distintas entre laboratorios y jurisdicciones”, explicó.
Herman añadió que para los directorios de empresas la conclusión debería ser que “la protección no está en apostar al laboratorio correcto, sino en no quedar cautivo de ninguno”. En la práctica, dijo que esto significa reducir dependencias, diversificar proveedores y diseñar arquitecturas modulares que permitan cambiar de tecnología sin perder las capacidades diferenciales del negocio.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Renato Olmos
