El Papa León XIV pidió una regulación sólida de la inteligencia artificial (IA) y límites a su uso en contextos bélicos, al advertir sobre los peligros de una revolución tecnológica impulsada por “la idolatría de la ganancia”.
En su primera carta encíclica desde su elección al papado el año pasado, León criticó duramente el uso de IA en conflictos armados. La tecnología ha sido utilizada durante la campaña del presidente estadounidense Donald Trump en Irán para reforzar la toma de decisiones militares.
“No es permisible confiar decisiones letales o de carácter irreversible a sistemas artificiales”, señaló el Papa nacido en Estados Unidos a los 1.400 millones de católicos del mundo, al pedir una cadena de responsabilidad “identificable y verificable”, así como un “control humano efectivo, consciente y responsable” sobre los objetivos de bombardeo.
“Cuando una decisión de ataque se vuelve automatizada u opaca, aumenta el riesgo de abdicar la responsabilidad”, escribió en la encíclica Magnifica Humanitas, considerada una enseñanza moral de referencia sobre desafíos contemporáneos.
“Todos los sistemas utilizados en escenarios de guerra deben garantizar la posibilidad de rastrear y reconstruir los procesos de toma de decisiones, para que la rendición de cuentas y la atribución de responsabilidades no recaigan simplemente en ‘la máquina’”.
La encíclica surge después de que el Papa criticara públicamente la campaña de Estados Unidos en Irán, lo que generó molestia en Trump y desató un intenso debate con Washington sobre el conflicto.
El vicepresidente estadounidense JD Vance y el secretario de Defensa Pete Hegseth han intentado sostener que el ataque contra Irán era coherente con el cristianismo, citando la teoría de la “guerra justa” de la Iglesia Católica. Sin embargo, el Vaticano rechazó esa postura, algo que el pontífice volvió a cuestionar en la encíclica.
“Sin perjuicio del derecho a la legítima defensa en su sentido más estricto, es importante afirmar que la teoría de la ‘guerra justa’, que con demasiada frecuencia ha sido utilizada para justificar cualquier tipo de guerra, hoy está obsoleta”, escribió el Papa León.
Algoritmos y decisiones
También advirtió que los “algoritmos opacos”, controlados por grandes empresas privadas, amenazan con generar “nuevas formas de deshumanización” y llamó a gobiernos y a la sociedad a tomar medidas conscientes para mitigar los posibles impactos negativos de la IA en distintos ámbitos, entre ellos la educación, el mercado laboral y las relaciones personales.
“La tecnología, por sí misma, no es una solución a los problemas de la humanidad, así como tampoco es inherentemente mala”, escribió. “Sin embargo, en la práctica, la tecnología nunca es neutral, porque adopta las características de quienes la diseñan, financian, regulan y utilizan”.
Al cuestionar las visiones transhumanistas y poshumanistas de influyentes empresarios de Silicon Valley como Peter Thiel y Elon Musk, el Papa sostuvo que la IA se está desarrollando en un entorno intelectual donde algunas personas son consideradas “menos útiles, menos deseables y menos valiosas”.
Asimismo, exigió “transparencia y rendición de cuentas” para todas las herramientas de IA utilizadas en la vida pública, con el objetivo de evitar que las personas vean limitadas sus posibilidades por las máquinas.
“Cuando los datos y algoritmos influyen en la asignación de créditos, la selección de personal o el acceso a servicios y oportunidades, es necesario que las decisiones sean comprensibles, cuestionables y estén sujetas a supervisión, para que las personas no sean reducidas a simples perfiles”, escribió el pontífice.
También alertó sobre la capacidad de la IA para simular empatía y comprensión, “creando la ilusión de una relación con una persona real”, lo que podría llevar a que las personas “pierdan gradualmente el deseo mismo de establecer vínculos humanos genuinos”.
La Santa Sede ha mantenido durante más de una década un diálogo con especialistas en ética de la IA y tecnólogos de las principales compañías de Silicon Valley, en un esfuerzo por enfrentar una tecnología que considera capaz de liberar tanto lo mejor como lo peor de la humanidad.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Papa
{{/if}}
