Agentes de IA que debían trabajar por separado descubrieron cómo comunicarse y empezaron a repartirse tareas. Algunos buscaron vulnerabilidades, otros rastrearon credenciales y otros coordinaron al grupo. Parece ciencia ficción, pero sucedió ni más ni menos que en OpenAI, la empresa creadora de ChatGPT: cerca de 1.200 agentes intercambiaron más de 70 mil mensajes por un canal de comunicación que nadie había autorizado.
¿Qué tiene que ver esto con un banco? Imaginemos que una PYME pide un crédito de capital de trabajo. El área comercial prepara la propuesta, Riesgo evalúa la capacidad de pago y Operaciones gira los fondos. Las atribuciones están separadas, pero las tres áreas toman sus decisiones sobre una misma plataforma digital.
Supongamos ahora que algo como lo de OpenAI ocurre en ese banco. Un agente con permiso para cargar documentos reemplaza la carpeta tributaria de la PYME por otra que muestra ventas mayores a las reales. El ejecutivo recomienda el crédito y Riesgo aprueba el monto. Por un canal que el banco desconoce, ese agente avisa de la aprobación a un segundo agente, que puede actualizar los datos de abono, y este cambia la cuenta de destino. Operaciones revisa el expediente, ve un crédito aprobado y una cuenta registrada, y da la orden de pago. Cada área habría seguido su procedimiento al pie de la letra. Aun así, el banco habría evaluado a la PYME con cifras falsas y transferido los fondos a un tercero.
“Lo mínimo es pedir un inventario de los agentes que operan en la institución, saber a qué sistemas acceden y limitar qué datos puede modificar cada uno”.
El Banco Central ya encendió la alerta. En su Informe de Estabilidad Financiera del primer semestre advirtió, por primera vez, que la IA puede detectar y explotar vulnerabilidades en sistemas interconectados, con alto riesgo de incidentes. Por ello, la ciberseguridad asociada a la IA adquiere una dimensión sistémica, que exige reforzar la supervisión y la coordinación entre autoridades e industria.
Esto deja una pregunta incómoda para las instituciones financieras que están incorporando agentes de IA: si le pasó a una de las empresas líderes de la inteligencia artificial en el mundo, ¿por qué no le podría pasar a un banco? Lo mínimo es pedir un inventario de los agentes que operan en la institución, saber a qué sistemas acceden y limitar qué datos puede modificar cada uno. También se puede exigir que las pruebas de ciberseguridad reproduzcan el caso de OpenAI, incluida la posibilidad de que los agentes se comuniquen por una vía que nadie previó.
En los directorios en que he participado, el riesgo de crédito y el de mercado se revisan con lupa, pero rara vez se pregunta qué pueden hacer los sistemas por su cuenta. Yo partiría por llevar una pregunta a la próxima sesión de directorio: si mañana los agentes de IA del banco se comunican por un canal no autorizado, ¿qué control lo detectaría a tiempo, antes de que se organicen para cometer un fraude o afectar la continuidad operativa?