Son diversos los frentes que abre la discusión ética en torno al avance de la inteligencia artificial (IA). A las alertas que abrió la encíclica papal Magnifica Humanitas en torno a la concentración del poder tecnológico, se suman las salidas de control de los agentes de IA que ejecutaron hackeos; la ausencia de mecanismos de control y rendición de cuentas; el riesgo de depender del Norte Global para acceder a esta tecnología; y la necesidad de poner en ejecución los principios éticos de la IA que estableció la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco).
Estos fueron algunos de los temas que abordaron la directora de la Asociación de Ética Empresarial y Organizacional de Chile, Macarena McKay, y la investigadora principal del Centro Nacional de Inteligencia Artificial (Cenia), Claudia López, en el quinto capítulo de la nueva temporada de IA Lab de DF.
Para McKay, los recientes incidentes de seguridad vinculados a agentes de IA -como el hackeo de un modelo de OpenAI a Hugging Face- demostraron que el avance de las capacidades de los sistemas de IA “no está yendo de la mano con el avance del control”, y agregó que el “común denominador” en estos episodios ha sido la falta de supervisión humana “o de no prever posibilidades que deberían haber estado en la mira” de los desarrolladores.
López apuntó a la dificultad para exigir responsabilidad a las tecnológicas ante la falta de transparencia de sus modelos, y señaló que hoy existe un “espacio gris” para la rendición de cuentas, por lo que llamó a avanzar en esfuerzos multilaterales en esta materia.
“Como sociedad nos hacen falta estructuras que nos permitan saber cuándo está pasando algo. Que no termine siendo cuando los pillamos (como los incidentes asociados a las tecnológicas) o cuando están dispuestos a contarnos (...) estamos dándonos cuenta de que esos eventos existen y que no sabemos cómo manejarlos”, afirmó la investigadora del Cenia.
Aunque López descartó que los laboratorios de IA hayan actuado al margen de la ética ante los recientes incidentes de seguridad, cuestionó su comportamiento en otros casos, como el uso de chatbots para acompañamiento psicológico y el uso de contenidos protegidos por derecho de autor.
Diversificación y principios de la Unesco
La primera encíclica del papa León XIV, Magnifica Humanitas, criticó, entre otros aspectos, la concentración del poder en torno a la IA, algo que, según McKay, debe mirarse desde una dimensión estratégica y geopolítica. También recogió la idea del pontífice de que la tecnología no es neutra.
“Ver la tecnología condicionada o sesgada por quien la crea, en este caso personas que tampoco sabemos sus intenciones (...) nos produce algún tipo de inseguridad y vulnerabilidad. Hay que ser estratégico, geopolítico, entender lo que está pasando y ver caminos para determinar cómo nos protegemos y diversificamos, o cómo vamos a enfrentar una situación en que pocos deciden por todo el resto. Y ahí está en peligro la democracia, nuestra libertad humana. Es un problema existencial, no solamente técnico ni tecnológico”, comentó McKay.
López, en tanto, indicó que el enfoque global de la carrera por la IA, centrado principalmente en la productividad y la competencia por el liderazgo entre los países, ha relegado otras discusiones, como su impacto sobre las personas, la precarización laboral, la desinformación y la concentración de la toma de decisiones.
La investigadora también coincidió en la necesidad de diversificar las fuentes de acceso a estos sistemas y de desarrollar capacidades en Chile y el Sur Global.
Aunque valoró contar con iniciativas soberanas como LatamGPT -el modelo de lenguaje regional y abierto desarrollado desde Chile por el Cenia-, dijo que no es plausible “encerrarnos y quedarnos solamente con los modelos abiertos (...) es más importante pensar estratégicamente cómo construimos tecnología desde Chile”.
Además, subrayó que el país debe avanzar “desesperadamente en la evaluación de riesgos de estos sistemas”, por ejemplo, para identificar información sesgada que pudiera perjudicar “particularmente en este lado del mapa (...) porque la mayoría de las evaluaciones que existen están hechas desde EEUU o Europa, y nadie allá tiene la motivación de hacer esas evaluaciones”.
Por otro lado, McKay se refirió a la Recomendación sobre la Ética de la Inteligencia Artificial de la Unesco, que fue adoptada en 2021 por 193 Estados miembros. Señaló que sus principios -como la transparencia, la explicabilidad o la dignidad humana- siguen siendo válidos, pero que el documento quedó “obsoleto en la implementación”.
Ante esto, planteó avanzar en lineamientos que “orienten, fomenten y promuevan” exigencias, auditorías, responsabilidades y mecanismos concretos de reparación.
López coincidió en que falta una “operacionalización” de estos principios y traducirlos en obligaciones efectivas para países y organizaciones.
Y si bien destacó el consenso que logró la Unesco, ve poco probable lograr un consenso en sus aplicaciones en defensa.
“Existe evidencia de que hay usos bélicos que son gravísimos y que no tenemos buenas formas como sociedad de lidiar con eso, porque todavía ni siquiera están en el problema de la transparencia”, comentó López.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Marco Zecchetto
