Expertos advierten que contenido falso generado por inteligencia artificial podría ser un riesgo para las elecciones en la región

La rápida evolución de la Inteligencia Artificial (IA) generativa, que permite crear nuevos contenidos de texto, imagen o video a partir de información existente, ha permitido reducir tiempos y aumentar la productividad en el trabajo. Pero al mismo tiempo, ha posibilitado la creación y divulgación de noticias falsas y deep fakes (fotos o videos ficticios a partir de intercambio de rostros) en las redes sociales.

Estas técnicas de desinformación han sido empleadas en diferentes contextos sociales y políticos, afectando a personajes públicos, como el caso de la imagen falsa del Papa Francisco vistiendo una chaqueta de marca Balenciaga, pero también han sido parte de las estrategias de promoción de campañas políticas, como la foto que circuló de Donald Trump rodeado y apoyado por comunidades afroamericanas.

Imagen falsa del Papa Francisco generada con MidJourney (crédito: Twitter)

De hecho, el Global Risks Report 2024, informe realizado por el Foro Económico Mundial (WEF, su sigla en inglés) en colaboración con Marsh McLennan y Zurich Insurance Group para medir los riesgos más graves que enfrenta el planeta y los que se vislumbran para la próxima década, situó en segundo lugar a la información falsa (misinformación) y engañosa (desinformación) generada a través de IA, en relación a los procesos eleccionarios.

En el reporte, la información falsa y engañosa se posicionó como el riesgo más grave para los próximos dos años. En esa línea, el informe señala que se espera que cerca de tres mil millones de personas acudan a urnas de votación en diferentes países -como Bangladesh, India, Indonesia, México, Pakistán, Reino Unido y Estados Unidos- en los próximos dos años, y que el uso de la desinformación, así como las herramientas para difundirla, puede socavar la legitimidad de los gobiernos recién elegidos.

Bajo ese contexto, la periodista y coordinadora del área de Educación y capacitadora del Proyecto Desconfío -iniciativa argentina que busca capacitar y entregar herramientas para combatir la desinformación- Soledad Arréguez, dijo que el ambiente eleccionario que enfrentarán diferentes países está llevando a una mayor preocupación de “poder mantener los espacios democráticos lo más limpios, en el sentido de que no haya campañas desinformantes o ruido en el proceso”.

También señaló que la desinformación, y en particular, los contenidos generados a partir de la IA, como los deep fakes, han traído nuevos desafíos al periodismo y a la sociedad democrática en sí.

“La posibilidad de hacer publicaciones abiertas en las redes sociales, que sea tan sencillo generar mensajes y la velocidad que tienen estos en línea, hace que la proliferación sea mucho más rápida. Además, hoy con la IA no es necesario partir de una imagen que sea real para poder generar otra. Esto trae muchas dificultades para detectar la falsedad y el engaño”, comentó.

En el caso de Latinoamérica, Arréguez indicó que los principales tipos de desinformación generada con IA suelen ser las imágenes falsas, las que se han orientado particularmente a políticos en períodos eleccionarios, pero también para crear y divulgar contenido falso asociado a temáticas medioambientales, migratorias y de salud.

Imagen falsa de Javier Milei arrodillado ante Xi Jinping

De acuerdo a datos de Transparencia Electoral, en 2024 cinco países de la región -México, El Salvador, Panamá, Venezuela y Uruguay- tienen elecciones generales, y tres -Chile, Brasil y República Dominicana- tienen elecciones municipales, lo que podría elevar la circulación de noticias falsas.

En tanto, el profesor asociado y director de investigación y creación de la Facultad de Comunicaciones de la Universidad Católica (UC), Sebastián Valenzuela, explicó que, en América Latina, la comunicación política es un fenómeno “fundamentalmente de carácter visual”.

“La gente lee muy poco y, sin embargo, consume mucho, videos, Tiktok, Instagram y todo contenido de imagen con un poco de texto. Dado que ese es el modo prevalente en que la mayoría de las personas consume contenido político en la región, la desinformación tiende a tener ese esquema, un predominio visual”, afirmó.

Impacto y regulación

Valenzuela de la UC señaló que, si bien no existe ninguna evidencia robusta que indique que la desinformación cambia directamente el voto de las personas, sí genera un impacto en la confianza que tienen los votantes ante la integridad de las instituciones públicas que están a cargo de los procesos electorales.

“A medida que la desinformación va corroyendo la fe en el sistema y la legitimidad de las elecciones, por ese lado sí tiene un impacto finalmente en la elección”, comentó.

A nivel regional, Valenzuela dijo que los gobiernos se están enfocando más en regular la IA y las nuevas tecnologías hacia un enfoque económico o “de aumento en la productividad a través de su uso”, por sobre la desinformación. No obstante la Unión Europea (UE) está liderando hacia una regulación más íntegra en la materia, a través de la Ley de Inteligencia Artificial que aprobó el Parlamento Europeo.

Las redes sociales han jugado un papel protagónico en la divulgación de desinformación. Ante esto, países como Alemania cuentan con la NetzDG o ley alemana de redes sociales (en vigencia desde 2017), la cual permite retirar contenido ilegal -como discursos de odio y otras expresiones tipificadas como delito por el código penal del país- de estas.

Por otro lado, en 2018 el parlamento francés aprobó la ley contra la manipulación de la información (ley 1202-2018), que busca ampliar la transparencia en los anuncios a través de plataformas digitales durante los períodos electorales.

Valenzuela dijo que será responsabilidad de los gobiernos, los servicios electorales y las plataformas digitales hacer frente a la desinformación en las elecciones que enfrentará la región, especialmente ante el auge de las herramientas de IA.

Agregó que será necesario contar con una “infraestructura de datos” para poder identificar y mitigar el impacto de la información falsa, acompañado de una alfabetización digital para los mismos usuarios.