Un giro en el discurso global de los principales desarrolladores de inteligencia artificial (IA) despertó preocupaciones durante el fin de semana. Esto, luego de que exinvestigadores y líderes de los principales laboratorios detrás de esta tecnología plantearan desacelerar el desarrollo de los modelos ante potenciales riesgos, como la pérdida de control, ciberataques o el desarrollo de armas biológicas.
El debate escaló tras las advertencias del exinvestigador de Anthropic y OpenAI, Jacob Coxon, quien alertó que la IA extinguirá a la humanidad en una década, mientras que el CEO de Anthropic, Dario Amodei, llamó en su último ensayo a ralentizar las capacidades de los modelos, lo que fue respaldado por otros líderes como Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind).
Para la directora del Instituto de Data Science de la Universidad del Desarrollo e integrante del Panel Científico Internacional Independiente sobre IA de la Organización de las Naciones Unidas (ONU), Loreto Bravo, el llamado de las tecnológicas genera tanto escepticismo como preocupación.
Si bien interpretó estas alertas como una “movida de marketing” -en la carrera por el liderazgo tecnológico-, advirtió que una desaceleración en Occidente, mientras China continúa avanzando, podría dejarlo “más indefenso” ante los crecientes riesgos de ciberseguridad.
“Hay que poder defenderse (de los ciberataques) con IA. Es lindo contar el cuento de ‘desaceleremos, detengamos el desarrollo’, cuando es evidente que China no lo va a hacer (...) Entonces observo esta conversación con mucha preocupación. En el informe que hicimos con el Panel Científico de las Naciones Unidas ya vimos que los avances van más rápido que lo que nos alcanzamos a ajustar a los cambios”, afirmó Bravo.
“Hay un mensaje de que en el futuro pueda pasar algo catastrófico (...) Creo que hay una mezcla entre marketing y hacer que la gente tenga un miedo existencial”, dijo Ricardo Baeza-Yates.
Quien también se plegó a la idea de que el ensayo de Amodei se trataría de una jugada comercial fue el profesor de la Universidad de Chile y chief scientific officer de Theodora AI, Ricardo Baeza-Yates. “Hay un mensaje de que en el futuro pueda pasar algo catastrófico, pero no es muy diferente a que caiga un meteorito. Hay una mezcla entre marketing y hacer que la gente tenga un miedo existencial cuando hoy tenemos un montón de problemas que son mucho más importantes y no están resueltos”, comentó.
Agregó que en el mensaje de Amodei “hay cosas ocultas” y “contradicciones que son complicadas de entender”, siendo la principal la inminente apertura a bolsa de la desarrolladora de Claude.
Además, está en desacuerdo con la idea del exinvestigador de Anthropic de que la IA podría acabar con la humanidad en una década. “Es una exageración”, dijo, y agregó que la secuencia de esa denuncia y el ensayo de Amodei “tampoco me parece una casualidad”.
No obstante, opinó que las propuestas de Amodei “son razonables y de sentido común”, en una línea similar a lo que ocurrió con el desarrollo de la energía atómica.
“La pregunta es si estamos esperando la tercera guerra mundial para llegar a tomar esas decisiones, incluyendo el uso de, por ejemplo, drones y otras armas de IA en las guerras, que ya ha ocurrido”, dijo.
El gerente general del Cenia, Rodrigo Durán, tiene otra mirada. Aunque descartó un escenario catastrófico, llamó a no pasar por alto el debate que abrió Amodei, que, en su opinión, es una discusión técnica y no una estrategia de marketing.
“No creo que la respuesta sea caer en escenarios apocalípticos, pero tampoco minimizar la incertidumbre. Estamos frente a una tecnología que avanza muy rápido y sobre la cual todavía tenemos preguntas científicas fundamentales”, dijo.
Agregó que la idea detrás del ensayo “me parece que es una iniciativa que está en la dirección correcta” y que “se alinea bastante con lo que en el Cenia creemos, es decir, que se tiene que desarrollar tecnología pensando siempre en ponerla al servicio de las personas”.
Sin embargo, cuestionó cómo se entregó el mensaje. “La audiencia a la que le habla son sus pares y no a un gobierno o instituciones democráticamente electas, o a través de una conferencia de prensa”, comentó, y agregó que “revela que probablemente saben mucho más de lo que se ha hecho público”.
Los riesgos reales
Bravo calificó las advertencias sobre la extinción de la raza humana debido a la IA como “individuales y marketeras”, y aunque evitó validarlas como una predicción, citó un estudio publicado en 2025, que contempló encuestas a investigadores de IA, en el que señalaron que “hay una probabilidad de un 5% de un final apocalíptico, que no es ignorable. Pero el 68% cree que los beneficios van a ser más positivos que negativos”, dijo.
En tanto, Baeza-Yates afirmó que existen riesgos a futuro y algunos que ya se están desarrollando.
“Uno muy importante, y que afecta a todos, es la desinformación. Con esta tecnología es muy fácil su proliferación. Luego está la discriminación de las mujeres, minorías y migrantes. Después está el tema del impacto ambiental por los centros de datos”, dijo.
Sumó también la salud mental, citando casos documentados en los que personas han muerto, la pérdida de capacidades cognitivas, y su impacto en el empleo. “Eso es lo más importante a mediano y largo plazo”, planteó.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Inteligencia Artificial
