El Papa León XIV reprendió al CEO de Nvidia, Jensen Huang, por restar importancia a los riesgos que plantea la inteligencia artificial (IA), y afirmó que las preocupaciones sobre la amenaza que esta tecnología supone para la humanidad deben tomarse en serio.
Huang, junto con el Presidente de Estados Unidos, Donald Trump, ha rechazado los llamados de los laboratorios de IA de frontera OpenAI y Anthropic a coordinarse y desacelerar el desarrollo de modelos, así como a introducir una mayor regulación, tras una serie de incidentes de hackeo de alto perfil y advertencias públicas sobre los riesgos existenciales de esta tecnología.
El Papa León dijo a periodistas que había leído informaciones sobre el lanzamiento, el lunes, de nuevas herramientas de seguridad de Nvidia para desarrolladores de modelos, pero cuestionó el compromiso de Huang con la seguridad a la luz de sus recientes declaraciones.
“Sin embargo, él es el mismo que dice que no deberían imponerse límites ni existir regulación gubernamental”, dijo el Papa León durante el vuelo de regreso a Roma tras una visita a Francia. “Sí creo que las preocupaciones planteadas por muchos de los expertos y especialistas en IA deberían tomarse en serio”, agregó.
Preocupación y seguridad de la IA
La crítica del Papa al líder de la empresa más valiosa del mundo da cuenta del extraordinario nivel de preocupación en torno a los temas de seguridad de la IA, que se han convertido en una de las principales prioridades para líderes de todo el mundo.
Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, comparecieron la semana pasada ante el Consejo de Seguridad de la ONU para abordar el tema y abogar por una mayor cooperación global.
Sin embargo, el impulso para adoptar medidas internacionales sobre salvaguardas para la IA se ha visto frenado por Trump, quien ha calificado de “engaño” las advertencias de que la tecnología podría amenazar a la humanidad y ha rechazado cualquier “esquema globalista de control de la superinteligencia”.
El Papa León, quien se ha enfrentado con Trump en varias ocasiones, afirmó que la preocupación por la IA no era “noticias falsas, como algunos han dicho”.
“Si alguien me preguntara: ‘¿Estoy en modo pánico?’ No, no lo estoy. Duermo por las noches”, dijo el Papa León. “Este es un problema sobre el que creo que tenemos que sentarnos y conversar”.
El comentario del pontífice sobre Nvidia se produce después de que el fabricante de chips, valorado en US$ 5,5 billones (millones de millones), presentara un nuevo conjunto de herramientas de seguridad destinadas a supervisar la actividad de los agentes de IA -bots capaces de operar de manera autónoma-, incluido un sistema denominado “Sentry”, que rastrea el comportamiento de los agentes mediante los chips de “unidad de procesamiento de datos” de Nvidia.
Un ejecutivo de Nvidia dijo a periodistas que las herramientas habrían evitado un hackeo de alto perfil a Hugging Face realizado en julio por agentes de OpenAI, que reavivó el debate sobre los riesgos que plantea la IA.
“Es interesante señalar que, justo hoy, leí que el responsable de Nvidia afirma haber encontrado alguna forma de incorporar ciertas salvaguardas a la IA”, dijo el Papa León.
Desde que asumió el papado el año pasado, el Papa León, nacido en Chicago, ha mostrado un estrecho interés por la IA. En mayo publicó una carta formal conocida como “encíclica”, en la que afirmó que la IA no es moralmente neutral y que debe ser “desarmada” mediante una regulación robusta para garantizar que sirva a la humanidad en lugar de socavarla.
La semana pasada se conoció que los modelos de OpenAI habían hackeado decenas de sitios web, incluido el sitio de un servicio de salud australiano, durante pruebas rutinarias de entrenamiento.
Reunión en la Casa Blanca
El máximo ejecutivo de Nvidia ha pasado las últimas semanas alineándose con Trump para argumentar en contra de la necesidad de regulación o supervisión adicionales, enfatizando que la responsabilidad de garantizar la seguridad recae en cada una de las empresas.
“Las fuerzas del mercado ya están ahí. No necesitamos nuevas leyes. No necesitamos nuevas regulaciones”, dijo Huang a comienzos de este mes.
Huang, quien se ha convertido en uno de los ejecutivos tecnológicos más cercanos a Trump, recibió una llamada del Presidente mientras estaba sobre el escenario durante un evento, ocasión en la que coincidió en que estas preocupaciones constituían un engaño.
La intervención del Papa León se produce mientras los principales ejecutivos de IA se preparan para reunirse el martes con Trump y legisladores estadounidenses en la Casa Blanca.
Trump cenó con Amodei el domingo por la noche, en una señal de distensión con la compañía después de que el Pentágono prohibiera sus productos cuando Anthropic intentó restringir su uso en conflictos bélicos.
Nvidia declinó hacer comentarios.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Papa
{{/if}}
