Columnistas

Decisiones automatizadas: ¿Y si el algoritmo no es transparente?

Jorge Jaraquemada R. Presidente del Consejo para la transparencia

Por: Jorge Jaraquemada R. | Publicado: Jueves 8 de octubre de 2020 a las 04:00 hrs.
  • T+
  • T-

Compartir

Jorge Jaraquemada R.

La digitalización de la información y el desarrollo de Internet han ido modificando la forma tradicional en que instituciones y empresas se relacionan con sus usuarios y clientes, recabando constantemente sus datos -en base a algoritmos informáticos- para tomar decisiones automatizadas que a través de técnicas de Big Data e Inteligencia Artificial, trascienden la mera percepción u opinión de los tomadores de decisiones, logrando un poder predictivo mucho mayor, más exacto para ofrecer sus productos, servicios y beneficios.

Imagen foto_00000001

Los algoritmos están presentes –sepámoslo o no- en diversos aspectos de nuestra vida cotidiana y determinan en muchas ocasiones las decisiones que tomamos, los productos y servicios que utilizamos y los beneficios a los que accedemos o no accedemos. Ejemplo de ello es la elección de una película en Netflix o una canción en Spotify, en donde aplica un algoritmo que recaba nuestras preferencias y nos sugiere otras. De la misma manera, hay algoritmos que operan en la selección de beneficiarios a subsidios y/o beneficios o en la asignación de recursos de salud o educación.

Esta automatización de las decisiones hace imperioso abordar tanto la generación y recopilación de los datos como la manera en que éstos se tratan y gestionan, toda vez que de ese proceso depende la aparición o no de una serie de importantes riesgos que, de no enfrentarse de manera oportuna y responsable, pueden resultar discriminatorios y generar importantes asimetrías de información. En efecto, hay que considerar que los datos que se seleccionan y la manera cómo se tratan, pueden replicar sesgos, estereotipos y prejuicios de quien -en el mundo físico- los selecciona.

De no existir claridad de cómo se construyen, implementan o interpretan los algoritmos que procesan estos datos y en base a los cuales se adoptan decisiones que afectan a las personas, tanto en el ámbito privado como público, se puede estar abonando espacios para la manipulación de sus resultados. Por tanto, el rol que juega la transparencia en este contexto es fundamental, pues abre la posibilidad de auditar y supervisar los datos, la información que se recoge, la manera cómo se gestionan, analizan y, finalmente, la idoneidad y justicia de las decisiones que se toman a partir de ello.

Para hacer frente a estos desafíos, es esencial generar un marco normativo acorde al desarrollo tecnológico, en donde se determinen los derechos y responsabilidades de los distintos actores, así como el establecimiento de los mecanismos idóneos de control y protección de datos personales que se usan para construir los algoritmos. En este sentido, la aprobación del Proyecto de Ley sobre Protección de Datos Personales y la consagración de un organismo autónomo que vele por ellos se vuelve cada vez más urgente.

Lo más leído

DF Multimedia