¿Sabe usted si un algoritmo decidió algo sobre su vida?
Señor Director:
Imagine que le rechazan un subsidio, que lo dejan al final de una lista de espera en salud o que lo seleccionan para una fiscalización. Cada vez con más frecuencia, esas decisiones las toma un sistema automatizado y, cuando éstas afectan derechos, la ciudadanía tiene derecho a saber cómo se toman.
Ese derecho parece obvio, pero para ejercerlo hace falta algo que damos por sentado y que, en la práctica, casi ningún país ha logrado. Antes de entender cómo funciona un sistema, necesitamos saber que existe.
Desde 2020, decenas de países han intentado resolverlo mediante registros de algoritmos, concebidos como catálogos en los que cada institución informa qué sistemas utiliza. La intención es buena, pero la experiencia internacional muestra una y otra vez la misma falla, porque es la propia entidad que usa el algoritmo la que decide qué declarar sin que nadie contraste esa información con la realidad.
Por eso, la próxima vez que una decisión del Estado le parezca automática, cuestiónese si detrás hay un sistema algorítmico y si está donde cualquier persona pueda encontrarlo. Esa pregunta es el primer paso de la transparencia algorítmica.
Carolina Álvarez Chamorro
Directora Ejecutiva de la Red de Integridad y Estado Abierto (RIEA)