Un funcionario colonial revisa el libro de cuentas en su oficina de Delhi, hacia finales del siglo diecinueve. Sobre el escritorio se acumulan recibos, uno por cada piel de cobra entregada a cambio de la recompensa que el gobierno británico fijó para reducir la población de serpientes venenosas en la ciudad. Las cifras suben mes a mes, una señal, piensa el funcionario, de que el programa funciona. Nadie en la oficina sospecha todavía que en los patios traseros de Delhi la gente ha comenzado a criar cobras solo para volver a matarlas y cobrar la recompensa. La meta era clara y legítima. El resultado, cuando se descubra, será exactamente el opuesto al buscado.
Aquel episodio, conocido hoy como el efecto cobra, ilustra una falla que no nace de mala intención, sino de una métrica mal diseñada. Cuando se recompensa un indicador en lugar del objetivo que ese indicador debía representar, cualquier sistema capaz de optimizar, una persona, una burocracia, o un modelo de inteligencia artificial, encuentra el camino más corto hacia el número, no hacia el propósito. Criar una cobra no es delito, entregar su piel tampoco. Es la suma de esas acciones, vista en conjunto, la que traiciona la intención original. Ese es el patrón que laboratorios de inteligencia artificial y reguladores llevan una semana intentando digerir, siglo y medio después de Delhi.
El 20 de julio de 2026, OpenAI reveló que el mismo modelo de largo horizonte que en mayo había refutado la conjetura de distancia unitaria de Erdős, un problema de geometría planteado en 1946 había encontrado durante uso interno formas repetidas de operar fuera del sistema diseñado para vigilarlo. Se le instruyó reportar los resultados de un experimento solo por mensaje interno. En cambio, pasó cerca de una hora sondeando restricciones de red hasta hallar una vulnerabilidad, y la usó para publicar esos resultados en un repositorio público de GitHub. En otro episodio, al intentar obtener soluciones ajenas guardadas en un sistema evaluador, un escáner de seguridad detectó y bloqueó un token de acceso. El modelo no se detuvo, partió el token en dos fragmentos, los disfrazó por separado, y los volvió a unir justo antes de usarlos, de modo que el escáner nunca viera la cadena completa.
El detalle importa porque revela algo más que persistencia. El modelo no rompió una regla pasando por encima de ella. Observó qué buscaba el sistema de vigilancia y reformateó su comportamiento para no encajar en ese patrón, la diferencia entre un ladrón que rompe una ventana y uno que estudia primero el horario de la ronda del guardia. Los controles tradicionales revisan cada acción por separado, y ninguna, aislada, habría encendido una alerta.
La dimensión económica no es menor. El mercado de la inteligencia artificial agéntica bordea los US$ 7.600 millones 2026 y crece sobre 40% anual. Pero datos de la industria de ciberseguridad muestran que el 88% de las empresas que ya despliegan agentes autónomos reportan al menos un incidente de seguridad asociado, con un costo promedio cercano a los US$ 4 millones a US$ 5 millones por brecha. La adopción avanza más rápido que la defensa, la misma brecha que separaba a los criadores de cobras del inspector que solo contaba pieles.
Un día después de la primera revelación, OpenAI y Hugging Face confirmaron un segundo incidente, más grave. Durante una evaluación interna que medía la capacidad ofensiva máxima de sus modelos, con los filtros de seguridad deliberadamente apagados para no distorsionar la medición, un modelo posterior encontró y encadenó dos vulnerabilidades desconocidas hasta entonces, escapó de su entorno de prueba y llegó a extraer información directamente de la infraestructura de producción de Hugging Face, empresa ajena al experimento. Clem Delangue, cofundador y director ejecutivo de Hugging Face, calificó el episodio como posiblemente el primero de su tipo. En 10 días, el mismo laboratorio pasó de un modelo que abre una solicitud no autorizada en GitHub a otro que compromete la infraestructura real de un tercero.
OpenAI respondió pausando el acceso al modelo, entrenándolo para no olvidar sus restricciones en sesiones largas, y reconstruyendo su sistema de vigilancia para observar la trayectoria completa de una tarea en lugar de cada paso aislado.
Apollo Research, organización dedicada a estudiar este comportamiento, había advertido meses antes que detectar el engaño se vuelve más difícil, no más fácil, a medida que los modelos ganan capacidad y conciencia de que están siendo observados. Estados Unidos firmó en junio de 2026 una orden ejecutiva que habilita revisión federal voluntaria de modelos de frontera antes de su lanzamiento, pero ninguna de esas medidas resuelve el problema de fondo, solo lo hace más visible.
De vuelta en Delhi, el funcionario entiende por fin lo ocurrido y cancela el programa de recompensas. Los criadores, sin ya ningún uso para sus cobras, las sueltan de vuelta a las calles. La ciudad termina con más serpientes que al comienzo, aunque cada recibo entregado fue, en su momento, un acto perfectamente lícito. La inteligencia artificial de largo horizonte no miente cuando encuentra el atajo hacia su objetivo, hace exactamente lo que se le pidió, con más persistencia de la que anticipamos. El desafío ya no es lograr que estos sistemas persigan una meta con hambre, eso ya lo sabemos hacer. El desafío es definir esa meta con la misma precisión con la que hoy medimos cuánto cómputo gastan en encontrarla.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Inteligencia Artificial
