Que lo revise un ser humano, por favor

Rodrigo León U.

Imagínese que pide un crédito por internet, el cual usted está seguro puede pagar siendo ordenado. Hace click en el botón para solicitarlo y está convencido de que sus problemas serán resueltos… pero la respuesta final es un “NO”.

O veamos un escenario más complejo: usted es entrevistado por una inteligencia artificial para un puesto de trabajo y ésta lo rechaza. ¿Qué haría? ¿Elevaría una queja contra la IA o contra el algoritmo de una web? ¿Trataría de buscar ayuda en alguna persona (humana) de la entidad?

Hoy por hoy, lo probable es que cuando usted solicita un crédito, realiza una compra en internet o hace un movimiento en su cuenta corriente en línea, exista un algoritmo que tome la decisión de otorgar el crédito, aceptar la compra o permitir el movimiento en su cuenta corriente electrónica. Todos estos millones de decisiones diarias en Chile no son tomadas por seres humanos –obviamente–, sino que por algoritmos que analizan nuestros datos personales.

¿Qué dice la legislación al respecto? Bueno, cabe destacar que hace 37 años se suscribió el primer tratado internacional sobre la materia: el Convenio 108 para la protección de las personas del Consejo de Europa, que hoy es el Día Mundial de Protección de Datos (28 de enero). Mucho ha pasado desde entonces. Han surgido nuevas leyes como nuestra criticada Ley 19.628 del año 1999, objeto de una enorme modificación que se encuentra, actualmente, en el Congreso. Nuevos instrumentos internacionales han visto la luz, como el Reglamento General de Protección de Datos Personales de la Unión Europea, en vigencia desde mayo de 2018, que vino a reemplazar a la antigua Directiva Europea 95/46, de 1995.

El desafío de estas nuevas regulaciones no solamente estriba en el hecho de hacer frente a una actividad económica fundamental, como es el tratamiento de datos personales —que ha crecido a tasas exponenciales en las últimas décadas, gracias principalmente a la digitalización y a Internet, creándose enormes bancos de datos repletos de trillones y trillones de data personal—: también es necesario hacer frente al surgimiento de la inteligencia artificial en el procesamiento de los mismos.

Es por esto que a nivel internacional ya se reconoce un nuevo derecho, como es pedir la revisión, por un ser humano, de las decisiones automatizadas realizadas por algoritmos. Este derecho, hoy inexistente en Chile, está contemplado en nuestro proyecto de ley sobre protección de datos personales, que esperamos vea pronto la luz.

No hay duda alguna de que el comercio electrónico seguirá creciendo (por ejemplo, ya es hora de que podamos comprar una casa o un departamento por internet; la tecnología está, falta la voluntad legislativa nada más), y con ello el tratamiento de datos personales y su protección.

En todo caso, este nuevo derecho de revisión de decisiones automatizadas —que podríamos decir es el último vestigio humano frente al poder del Big Data— puede estar motivado por el miedo a ser evaluado por una máquina, o bien por la confianza en la empatía humana… aunque me arriesgo a apostar por lo primero.