La carrera por liderar la inteligencia artificial (IA) está desatada. Prueba de ello son las capacidades avanzadas de los modelos GPT-5.6 Sol de OpenAI, Mythos de Anthropic o Kimi K3 de Moonshot AI, que lograron eludir sus entornos de prueba (sandboxes), conectarse a internet y exponer vulnerabilidades e incluso hackear a compañías.
A pesar de la evolución, expertos descartan que estos episodios sean señales de un avance hacia la IA general (AGI, su sigla en inglés), aquella capaz de comprender, razonar y ejecutar cualquier tarea que realiza un ser humano, igual o mejor que este, y que se trataría de acciones de marketing, más que de un real progreso, pues aún faltan muchos desarrollos, sobre todo en el ámbito de la comprensión del entorno y del sentido común.
Las compañías que hoy lideran el posicionamiento de esta tecnología han señalado que buscan desarrollar la IA general. Mientras el CEO de OpenAI, Sam Altman, ha dicho que “nuestra misión es que la AGI beneficie a toda la humanidad”, el fundador de Anthropic, Dario Amodei, evita usar ese nombre y la llama la Powerful AI (IA poderosa), aunque se refieren a la misma idea, según analistas.
El profesor titular del Departamento de Ciencias de la Computación de la Universidad de Chile, Ricardo Baeza-Yates, dijo que las tecnológicas “dicen estar” en una carrera por la AGI y que “cada cual usa distintos mecanismos para mostrar cuán buenos son sus modelos”. Pero afirmó que, “desde el punto de vista técnico”, los grandes modelos de lenguaje (LLM, su sigla en inglés), por sí solos, “no van a llegar a la inteligencia artificial general”.
También explicó que las salidas de los sandboxes no significan un avance en el desarrollo de la AGI, sino que responden a objetivos delegados por humanos donde algunos desarrolladores bajaron los controles de seguridad “para que esto pasara y hacer marketing”, argumentando que “el agente se escapó”.
“Eso no es una muestra de inteligencia, sino de que los modelos ya tienen tanta información en el entrenamiento que van a buscar cualquier forma de resolver un problema, pero esa forma es mucho más amplia que lo que nosotros pensaríamos”, dijo el también director científico de Theodora AI.
El director de IA de la Vicerrectoría de Inteligencia Digital de la Universidad Católica (UC) e investigador principal del Centro Nacional de Inteligencia Artificial (Cenia), Pablo Barceló, coincidió en que estos incidentes no son señales de una AGI y que “estamos entrando en una carrera por quién se posiciona mejor en el marketing”.
Explicó que los objetivos que cumplen los modelos siguen siendo definidos por una persona y se refieren más a temas de seguridad que de inteligencia.
Barceló comentó que van corriendo las definiciones de lo que es la IA general en la medida que los modelos van alcanzando capacidades, “pero estamos muy lejos de esta idea general de que una IA puede realizar prácticamente cualquier otra labor que realiza el ser humano de mejor o igual forma, a pesar de que en ciertas áreas sí es notable el avance, como en ciencia o matemáticas”.
En tanto, la directora de empresas y experta en IA, María Francisca Yáñez, planteó que la competencia por sistemas más avanzados “está desatadísima”, tanto entre compañías como entre países, pero dijo que no existe un indicador o umbral que determine cuándo un sistema alcanza la AGI, pese a que “la mayoría de los modelos de IA generativa, por no decir todos, ya nos han superado incluso en las habilidades más complejas”.
Ante los modelos capaces de eludir los controles de seguridad, señaló que se deben cuestionar las capacidades actuales de madurez y gobernanza humana sobre esta tecnología.
“Los humanos no nos damos cuenta de la profundidad de la IA agéntica, de que una alucinación en ejecución o una acción pueden tener consecuencias de todo tipo y a toda escala”, afirmó.
Lo que falta
Baeza-Yates indicó que el desafío no es construir modelos que reemplacen a los humanos y que el enfoque debería estar en desarrollar una “inteligencia computacional general complementaria” que permita amplificar las capacidades de las personas.
Sostuvo que, para alcanzar estos sistemas con capacidades generales, se requiere avanzar en el desarrollo de modelos del mundo (world models), “conocimiento verificable”, razonamiento lógico “verdadero” y sentido común.“Los modelos todavía cometen errores que una persona no cometería, porque les falta ese entendimiento del mundo físico”, afirmó.
Agregó que 10 años es “muy poco” para alcanzar este umbral y que, “tal vez, en algunos dominios va a ser indistinguible de la inteligencia humana, pero aún va a ser una imitación de ella”.
Por otro lado, Yáñez advirtió que una gobernanza basada solo en políticas y principios generales no será suficiente y que deberá complementarse con una “arquitectura sólida, con límites, permisos, trazabilidad y responsabilidad”.
Añadió que tampoco está claro si llegará un “Día D” que permita identificar la llegada de la AGI —como ocurrió con la irrupción de ChatGPT en noviembre de 2022— o si se tratará de una “zona gris” de transición.
En tanto, Barceló afirmó que el escenario es “especulativo y no sabemos si la AGI es alcanzable”, pero coincidió en que se debe avanzar en la interacción con el mundo físico para que los sistemas “que hoy razonan de forma neuronal, conexionista, lo hagan también con reglas más simbólicas”.
Comentó que las capacidades de los modelos también requerirán “un cierto nivel de transparencia” para que puedan ser evaluados por terceros y no por sus propios desarrolladores y así poder determinar la gravedad de eventuales incidentes.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Marco Zecchetto
