El Papa León XIV entró de lleno al debate global sobre la inteligencia artificial (IA). En Magnifica Humanitas, su primera encíclica, el pontífice, entre otros puntos, cuestionó la concentración de poder en las grandes plataformas tecnológicas, pidió regulación efectiva, y denunció el trabajo precarizado detrás del entrenamiento de modelos de IA, en un documento que genera lecturas cruzadas entre teólogos, filósofos y especialistas en tecnología.
Dada a conocer en Roma este lunes, la encíclica conmemora el 135° aniversario de Rerum novarum, el texto fundacional de la Doctrina social de la Iglesia firmado por León XIII en 1891. El nuevo documento, de cinco capítulos, actualiza esa tradición para “el tiempo de la inteligencia artificial” y la dignidad humana.
La tesis central que plasmó León XIV es que la humanidad enfrenta una elección entre dos modelos, que el Papa ilustra con dos imágenes bíblicas: la torre de Babel, símbolo de un proyecto tecnológico guiado por la eficiencia, la uniformidad y la concentración de poder; y la reconstrucción de Jerusalén bajo Nehemías, símbolo de un trabajo compartido orientado al bien común.
Respecto de la IA, el Papa advirtió que debe evitarse “el equívoco de equiparar esta inteligencia a la humana”, argumentando que los sistemas imitan funciones cognitivas y a menudo superan al humano en velocidad de cálculo, pero “no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones”.
León XIV sostuvo que las IA modernas “están más cultivadas que construidas”, en referencia a que los desarrolladores no diseñan cada detalle, sino “una arquitectura sobre la cual la IA crece”. A partir de eso mencionó que “todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo”.
Durante su presentación en el Vaticano, profundizó en este punto y, haciendo un paralelo con la energía nuclear, el Papa hizo un llamado a una regulación estricta. “La IA debe ser desarmada; la palabra es fuerte, lo sé, pero la elegí deliberadamente. (...) debe estar al servicio de todos y del bien común”, dijo.
Lo anterior en referencia a “sustraerla a la lógica de la competencia armamentística, que hoy ya no es solo militar, sino económica y cognitiva”.
“(Magnifica Humanitas) tiene la capacidad de mover el tablero. Podemos esperar grandes impactos políticos y económicos globales de este texto”, dijo el sociólogo y académico Jorge Blake.
A esta presentación también asistió Christopher Olah, cofundador de la startup Anthropic -desarrolladora de Claude-, quien reconoció que las tecnológicas necesitan una orientación moral para evitar dejarse influir por “un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto”.
El Papa agradeció la presencia de Olah -sentado tres puestos a su izquierda- y dijo que “acepto su invitación a caminar, escuchar y hablar juntos para encontrar el camino de la humanidad en esta era de la IA”.
En la encíclica, León XIV constató un cambio histórico respecto a épocas anteriores al mencionar que, si antes eran los Estados los que impulsaban la innovación, hoy los principales motores del desarrollo son “actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos”. El poder tecnológico, dijo, “adquiere así un rostro inédito, predominantemente privado, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común”.
Esa asimetría atraviesa todo el documento. El Papa habló de “nuevos monopolios de la IA” y advirtió sobre una concentración simultánea de datos, capital informático y capacidad normativa en pocos actores.
En el plano militar, la encíclica rechaza las armas autónomas y la delegación de decisiones letales a sistemas automatizados: “No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable”. Además cuestiona la teoría de la “guerra justa” y advierte que la IA puede “bajar el umbral del uso de la fuerza” al reducir al enemigo a un dato y a la víctima a un “daño colateral”.
Análisis de expertos
Para el académico de la Facultad de Teología de la Universidad Católica (UC), Heriberto Cabrera, uno de los principales méritos del documento es que evita caer tanto en el “entusiasmo ingenuo” como en el miedo frente a la IA.
Señaló que la encíclica presenta una visión “muy equilibrada” de esta tecnología, porque “no la demoniza, pero tampoco la santifica”, y sitúa la discusión más allá de la herramienta misma, abordándola como un fenómeno que está reconfigurando ámbitos como la vida cotidiana, la educación, la economía y la forma en que se comprende lo humano.
Enfatizó que “el diagnóstico más fuerte es que el peligro no está en la máquina, sino en la concentración de poder”, pues la acumulación de datos, infraestructura y capacidad tecnológica podría generar “nuevas dependencias, abusos, exclusiones o situaciones de dominio”.
El sociólogo y académico del Laboratorio de Ciencias Sociales Aplicadas de la Universidad de los Andes, Jorge Blake, destacó que la encíclica va más allá del pensamiento antropológico o ético, abordando también las implicancias económicas de la IA. Dijo que “da en el clavo” al advertir que esta tecnología representa “un recurso productivo que genera una riqueza nunca antes vista”, pero que podría profundizar desigualdades y conflictos sociales si no se orienta hacia el bienestar colectivo.
Planteó que la discusión no se reduce al eventual reemplazo de trabajadores por sistemas automatizados, sino a cómo las empresas y los sistemas enfrentan esta transición sin dejar personas “al borde del camino”, y enfatizó la necesidad de avanzar en la reconversión y el desarrollo de nuevas habilidades.
Blake comparó el posible impacto de la nueva encíclica con el alcance que tuvo Laudato si’ -la carta del Papa Francisco centrada en sostenibilidad y cambio climático-, y dijo que podría impulsar desde acuerdos internacionales sobre IA hasta impactos en las universidades y empresas. “Tiene la capacidad de mover el tablero. Podemos esperar grandes impactos políticos y económicos globales de este texto”, añadió.
La vicerrectora de Inteligencia Digital de la Universidad Católica (UC), Paula Aguirre, valoró que el documento entrega un diagnóstico “acertado y bien realista” de las oportunidades y riesgos de la IA, y destacó que instala una discusión sobre cómo orientar el avance y la adopción de esta tecnología hacia el bien común, la justicia social y “una construcción más humana”.
Sostuvo que parte de esa orientación debe reflejarse en la forma en que se toman decisiones apoyadas por IA. “Cualquier decisión que afecte a las personas y que pueda ir en detrimento de su dignidad, nunca puede ser delegada absolutamente a un sistema automatizado, sino que tiene que considerar en el flujo de decisión personas responsables, con transparencia y principios éticos”, comentó.
Agregó que la encíclica hace un llamado a “todos los integrantes de la sociedad” a conducir el curso de la IA de acuerdo a un “marco de humanismo”, donde sus resultados “vayan en beneficio de la humanidad”.
Mientras que, la directora de la Asociación de Ética Empresarial y Organizacional de Chile, Macarena McKay, señaló que la encíclica instala una “verdad incómoda” para las empresas, al desplazar la discusión desde lo “técnicamente” posible hacia el uso responsable de la IA.
“La persona siempre tiene que estar al centro (...) Las empresas que entiendan eso antes van a poder construir confianza, reputación y credibilidad en el futuro”, comentó.
Los llamados y resguardos que pidió el pontífice en torno a la IA
En la encíclica, el Papa León XIV pidió -entre otras cosas- una serie de medidas a gobiernos y empresas para delimitar el desarrollo de la inteligencia artificial.
Por ejemplo, llamó a regularla con “instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico”.
También pidió protección y readaptación laboral para los trabajadores cuyos empleos están en peligro por los avances tecnológicos. “Es fundamental invertir en formación y capacitación laboral profesional accesibles”, afirmó.
Otro punto fue dirigido a los establecimientos educacionales para establecer medidas “para ayudar a los estudiantes a pensar críticamente sobre la tecnología”.
Además, pidió establecer salvaguardas para garantizar que sean los seres humanos, y no la IA, quienes sigan siendo los responsables de todas las decisiones relacionadas con el uso de armas.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Papa
