VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contrasteGobernanza zombie: cuando el riesgo ocurre en el streaming
MARÍA PÍA AQUEVEQUE Directora de empresas, experta internacional en activos digitales
María Pía Aqueveque
Estamos entrando en una economía donde los sistemas cambian más rápido de lo que las organizaciones pueden observar. El riesgo ya no está en el modelo inicial, sino en lo que el sistema se convierte después. En pocos años, la gobernanza de la IA pasó desde declaraciones generales de principios hacia auditorías, evaluaciones de riesgo y modelos de supervisión sofisticados. La Ley de Inteligencia Artificial de la Unión Europea, la norma ISO 42001 y diversas iniciativas internacionales reflejan un cambio profundo: el mercado entendió que los sistemas algorítmicos ya no son solo herramientas tecnológicas, sino infraestructura con impacto económico e institucional.
Las recientes modificaciones del EU AI Act muestran un giro hacia una gobernanza más operativa de la IA. La UE amplió plazos para sistemas de alto riesgo y reforzó exigencias de trazabilidad, monitoreo y gestión de riesgos sistémicos, acercando la regulación de IA a temas de ciberseguridad e infraestructura crítica. En América Latina, iniciativas como fAIr LAC–BID Lab muestran que la conversación comenzó a desplazarse desde principios abstractos hacia capacidades de evaluación y supervisión. Modelos como el enfoque “3S” ayudaron a instalar una idea relevante: la IA no puede evaluarse solo por su desempeño técnico, sino también por efectos organizacionales.
“El problema es que la gobernanza todavía ocurre en documentos estáticos, mientras los sistemas evolucionan en vivo”.
Marshall McLuhan anticipó hace décadas una tensión central de la economía algorítmica: “Primero moldeamos nuestras herramientas y luego ellas nos moldean a nosotros”. Pero la velocidad de adopción también está dejando al descubierto una limitación estructural. La mayoría de las organizaciones construye gobernanza principalmente a través de documentación: políticas, matrices de riesgo, comités y reportes. Todo eso es necesario. El problema es que la gobernanza todavía ocurre en documentos estáticos, mientras los sistemas evolucionan en vivo.
Los reportes muestran una captura de pantalla. El problema ocurre en el streaming. El desafío no es solo diseñar principios de IA responsable, sino desarrollar capacidad institucional para observar sistemas adaptativos mientras operan. Un banco puede cumplir formalmente con sus políticas y, aun así, no detectar en tiempo real que un modelo alteró sus patrones de decisión o comenzó a operar fuera de parámetros aprobados.
El riesgo es caer en una especie de “gobernanza zombie”: estructuras de supervisión que siguen existiendo formalmente mientras los sistemas reales ya evolucionaron fuera de su campo de observación.
La IA probablemente seguirá el mismo camino. La próxima ventaja competitiva no surgirá solo de desarrollar mejores modelos, sino de construir organizaciones capaces de observarlos mientras cambian. En la economía algorítmica, la nueva opacidad ya no nace de la ausencia de información. Nace de sistemas que evolucionan más rápido de lo que podemos observarlos.
