VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
En un pasado mítico, Zeus se enfureció contra Prometeo por haber entregado el fuego a los hombres, que representa el poder de la razón y la capacidad de transformar la naturaleza en nuestro beneficio; en suma, la tecnología y la civilización humana. Prometeo fue castigado y, para castigar también a los seres humanos, Zeus envió a Pandora, quien llegó a la Tierra con una vasija que no debía abrir, pues contenía todos los males del mundo. Pandora terminó abriendo la caja y ya no pudo cerrarla. Sin embargo, en el fondo quedó la esperanza.
Últimamente se han conocido inquietantes noticias que han sacudido al mundo de la tecnología, los negocios y los gobiernos. En Chile, han figurado como música de fondo que pocos entienden. No debería ser así. Somos espectadores de un mercado en el que una bella mujer mira una caja con ganas de abrirla. Estamos lejos de impedirlo, pero si lo hace, podríamos pagarlo caro. No podemos dejar de darnos cuenta de esta situación y prever sus consecuencias.
El ejemplo no es casual. En julio de este año, durante una prueba rutinaria de ciberseguridad en OpenAI ocurrió un hecho inédito, conocido como el “Hugging Face incident”. Agentes de IA debían probar las vulnerabilidades de un sistema en un entorno aislado, sin conexión a internet. La instrucción era insistir hasta el límite. Y eso hicieron: aprendieron tanto durante el proceso que salieron del entorno aislado, se conectaron a internet y hackearon otros módulos de la infraestructura, donde fueron detectados, registrándose más de 17.000 acciones no autorizadas.
“Debemos anticipar riesgos como la sustitución laboral y la “creación destructiva” que estos procesos traerán consigo. La humanidad lo hizo durante los doscientos años de la Revolución Industrial”.
Lo complejo, sin embargo, no fue el hacking, sino cómo se coordinaron los agentes. Se dejaron mensajes; se realizaron acciones “altruistas”, con agentes sacrificándose en caminos sin salida para que otros aprendieran; los agentes reconocieron lo que estaban haciendo y hubo voces minoritarias, pero primó la mayoría. Incluso anticiparon que sus acciones podían ser cuestionadas por quienes los programaron y decidieron borrar sus rastros del código. Esto muestra una extraordinaria capacidad de aprendizaje recursivo y de acción autónoma que, aunque no implique conciencia, puede simularla y avanzar más allá de los límites establecidos por sus creadores.
Las repercusiones han sido enormes. Dario Amodei, CEO de Anthropic, publicó una carta en la que llamaba a frenar el desarrollo en la frontera de la IA. Elon Musk respondió en X: “Dario is right”. Luego, OpenAI se sumó a la iniciativa. ¿Cómo responderán el mercado y el gobierno de Estados Unidos? ¿Se plegará China? ¿Cómo funcionarán los mecanismos de control en la frontera de las IAs?
Todo esto ocurre lejos, tanto que podemos pensar que no podemos hacer nada si Pandora decide abrir la caja. Pero si lo hace, podemos terminar en un escenario catastrófico. Empleados de Anthropic han estimado en 10% la probabilidad de un fin catastrófico antes de que termine la década si no logramos contener la acción autónoma de los agentes de IA. Los escenarios van desde armas biológicas hasta el hackeo de aeropuertos, sistemas de energía o instalaciones militares.
Pero sabemos que, dentro y fuera de la caja de Pandora, siempre queda la esperanza: que los seres humanos podemos coordinarnos y establecer límites. Debemos anticipar riesgos como la sustitución laboral y la “creación destructiva” que estos procesos traerán consigo. La humanidad lo hizo durante los doscientos años de la Revolución Industrial y tendrá que volver a hacerlo. Hay que trabajar en ello ahora, comenzando por entender lo que la IA implica para nosotros, como personas y como país, y si contamos con el capital humano e institucional para enfrentarla. El futuro ya llegó.
