Las empresas se enfrentan a posibles daños éticos y reputacionales derivados de la inteligencia artificial (IA) generativa y de agentes autónomos, a medida que esta tecnología evoluciona con rapidez.
Los incidentes ocurridos este año, en los que agentes de IA de Anthropic y OpenAI interactuaron de forma no prevista con plataformas de otros desarrolladores, pusieron de relieve los riesgos para otras empresas y plantearon la duda de si las políticas de gobernanza corporativa se están adaptando con la suficiente celeridad.
Las empresas están tratando de “ponerse al día en materia de gobernanza”, señaló el director ejecutivo de IBM para el Reino Unido e Irlanda, Leon Butler.
Este desfase quedó patente en una encuesta realizada en octubre es por el grupo tecnológico: el 80% de los ejecutivos en Europa, Oriente Medio y África afirmaron que, durante el último año, algún “incidente relacionado con la IA llegó a conocimiento de su directorio o de la alta dirección”; sin embargo, solo el 40% indicó haber “modificado sus políticas o marcos de gobernanza de la IA” como respuesta. Apenas el 37% señaló que “su modelo de gobernanza está diseñado para escalar a la par que el despliegue de agentes de IA”.
El líder global de IA responsable en la firma de selección de personal Randstad, Martin Woodward, afirmó que el mayor desafío “reside en el volumen y la velocidad. Siempre existe una tensión saludable entre el deseo de la empresa de encontrar la próxima gran innovación y el intento de ejecutarla de manera ética, preservando al mismo tiempo su reputación en el mercado”.
Por su parte, la directora de IA y datos en Accenture, Lan Guan, sostuvo que es necesario lograr un equilibrio entre “el control de la gobernanza, la democratización de la IA y el despliegue del ingenio humano”.
Añade que la gobernanza es “un mecanismo fundamental que las empresas deben gestionar correctamente para poder avanzar con mayor agilidad; aunque pueda parecer que ralentiza los procesos al añadir pasos adicionales, implementar una gobernanza adecuada, en el momento oportuno y con las herramientas correctas, ayudará a que la tecnología avance más rápido”.
Marcos de trabajo
La mayoría de las empresas han establecido marcos de trabajo para la IA que definen principios generales. El director de operaciones de la compañía global de gestión de identidades Okta, Eric Kelleher, considera que la Ley de IA de la Unión Europea constituye un buen punto de partida “para una adopción responsable de la IA”. Añadió que “tratar a los agentes de IA como identidades de pleno derecho, sujetas al mismo rigor que las identidades humanas, es una forma de cumplir con los requisitos exigidos de manera ética”.
Ikea, por ejemplo, cuenta con siete principios fundamentales: responsabilidad, autonomía humana, equidad, privacidad, transparencia y sostenibilidad. La directora global de datos e IA de la empresa minorista, Burce Gültekin, señaló además que han establecido límites que, en ocasiones, “van más allá de los requisitos legales; esto incluye restricciones a la vigilancia de clientes y empleados mediante IA, así como a la toma de decisiones automatizadas que conllevan consecuencias significativas para las personas sin supervisión humana”.
A medida que la tecnología evoluciona, también lo hace su gobernanza, afirma Paula Goldman, directora de uso ético y humano de la IA en Salesforce. La empresa establece plazos para sus directrices y las revisa periódicamente a medida que cambian los riesgos.
Esta compañía de software se ha adaptado a la era de los “agentes de IA” mediante principios que incluyen la evaluación de sesgos, la realización de pruebas en escenarios adversos y la verificación de la precisión.
El grupo inmobiliario JLL clasifica sus actividades según su nivel de riesgo, de alto a bajo. Por ejemplo, desarrollar un agente con autonomía para autorizar pagos a proveedores se considera de alto riesgo y, por tanto, requiere una revisión.
¿Quién es el responsable?
Un estudio de la Wharton School reveló que no existe consenso entre los directivos estadounidenses sobre quién es “responsable de los errores de la IA”: el 28% señala al equipo de gobernanza o riesgos; el 26%, al superior jerárquico del empleado que implementó la tecnología; el 25%, a los propios empleados; y el 9%, al proveedor.
Según datos de Randstad recopilados en 11 países, el número de profesionales que se definen como analistas de gobernanza de IA es 3,3 veces mayor que en 2019, mientras que aquellos que se identifican como gestores de riesgos de IA o responsables de ética en IA han aumentado 2,4 veces. No obstante, existe una escasez de competencias: en el último año, la demanda global de habilidades en gobernanza de riesgos creció un 108%, frente a un incremento de solo el 69% en el número de personas que poseen dichas capacidades.
Guan, de Accenture, sostiene que la supervisión de esta tecnología requiere un modelo de “centro y radio” (hub and spoke). “Debemos desplazar parte del peso hacia un núcleo central -compuesto por representantes de las áreas de arquitectura de IA, ética y gobernanza de datos- para permitir que se tomen decisiones con rapidez”. En Salesforce, la Oficina de Uso Ético y Humano colabora con los departamentos de producto e ingeniería, legal, privacidad y seguridad para ofrecer orientación sobre el desarrollo y uso responsables de los productos.
Su proceso de revisión de “IA de confianza” es un procedimiento estandarizado, aplicable tanto a productos y funcionalidades internos como a aquellos destinados a los clientes, que permite a la empresa identificar y mitigar posibles riesgos de forma temprana.
La formación resulta fundamental para difundir las actualizaciones en materia de gobernanza. El director de la Iniciativa de Ética Tecnológica de la Universidad de Seattle, Onur Bakiner, señaló que esto implica capacitar a los empleados tanto en los casos de uso de la IA como en los riesgos asociados. No obstante, “los casos de uso y los riesgos evolucionan con rapidez; por ello, las empresas deben mantener una lista dinámica de escenarios, especialmente aquellos que se sitúan en una zona gris, donde es necesario sopesar los riesgos frente a los beneficios”.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
