Expertos delinean los puntos clave que debe abordar la Política DE IA

Un asunto que no deja indiferente a nadie es la Inteligencia Artificial (IA). La tecnología de la llamada Cuarta Revolución Industrial penetra cada vez con mayor fuerza en todas las dimensiones de la sociedad, desde las redes sociales hasta empresas que la usan en sus procesos internos o para mejorar la experiencia del cliente, por lo que regular su uso y limitaciones se vuelve crucial. Estas materias son las que aborda la Política Nacional de IA, actualmente en desarrollo.

Desde hace un par de años, diferentes países como Japón y España, han impulsado estrategias y políticas relacionadas a la IA, camino que Chile decidió seguir en 2019, cuando el Gobierno mandató al Ministerio de Ciencia, Tecnología, Conocimiento e Innovación (MinCiencia), elaborar una Política Nacional de IA y un Plan de Acción.

La política apunta a ser un documento estratégico que establezca lineamientos generales para el desarrollo y aplicaciones de la IA, en respuesta a los desafíos y oportunidades que enfrentará el país en el período 2020-2030, para el sector público, privado y la ciudadanía.
El ministro de Ciencia, Andrés Couve, explica que el primer eje busca promover y desarrollar el uso de IA a través del capital humano especializado y recursos materiales como redes de fibra óptica o infraestructura computacional. El segundo eje apunta a fortalecer y conectar a los actores que participan en el desarrollo y uso de IA con el fin de fomentar la innovación. Y el tercer eje considera aspectos éticos, regulatorios, sociales y económicos.
La construcción de la política ha estado marcada por diferentes iniciativas. Por ejemplo, se creó un Comité de Expertos, compuesto por 12 personas de distintas disciplinas y ámbitos, y, entre marzo y agosto de este año, se inició un proceso de mesas autoconvocadas para incorporar inquietudes y recomendaciones de la ciudadanía.
Si bien el cronograma oficial contemplaba la publicación del documento en julio pasado, Couve, señala que la pandemia lo atrasó para fines de este año.
"El 30 de agosto terminamos el proceso de participación ciudadana al que se sumaron más de 1.700 personas y organizaciones. Tras recoger esos aportes y conclusiones, durante septiembre y octubre seguiremos trabajando con el Comité de Expertos y el Comité Interministerial en el borrador final de este compromiso que reúne orientaciones y acciones, y que será abierto a una consulta pública, para hacer entrega de la política al país a finales de este año", explica Couve.
En este escenario, tres actores vinculados al mundo de la tecnología y de la inteligencia artificial, entregan sus visiones en torno a los aspectos cruciales que debería incluir la Política Nacional de IA de Chile.

Leo Prieto: "Es prerrequisito tener la Ley de Protección de Datos Personales"
Leo Prieto, CEO y fundador de Odd Industries, startup de análisis de datos e IA para procesos industriales, plantea que la política debe poner especial atención a dos aspectos: protección de datos y uso ético de los algoritmos.
"La base de la política tiene que velar por un uso responsable y ético. Si se quiere tener buenos resultados, la IA tiene que trabajar con buenos datos, que tienen que ser obtenidos de forma ética, lo primordial es partir por ahí y privilegiar la privacidad de las personas. Es prerrequisito tener la Ley de Protección de Datos Personales, no puede haber una Política de IA sin eso", dice Prieto en referencia al proyecto de ley de Protección de Datos Personales que está en el primer trámite constitucional en el Senado.
Respecto a los algoritmos, afirma que pueden ser entrenados para encontrar ciertas características en la data suministrada, por lo que las conclusiones que se generan pueden provocar discriminación.
"Tener un algoritmo sesgado que perjudique a minorías o poblaciones de riesgo es muy delicado. A veces las empresas se obsesionan con un perfilamiento y la muestra de data que usan en el algoritmo entrega resultados sesgados", sostiene Prieto.
El emprendedor también señala que la política debe regular "ampliamente" para no frenar la innovación en torno a la inteligencia artificial.
Sandra Guazzotti:
"La IA debe ser confiable y transparente"
La vicepresidenta de Oracle de Latinoamérica y presidenta de la Cámara Chileno Norteamericana de Comercio, Amcham Chile, Sandra Guazzotti, plantea que los desafíos éticos son fundamentales. Señala que entidades internacionales, como la OCDE (Organización para la Cooperación y el Desarrollo Económicos), el G-20, la Unión Europea y el Foro Económico Mundial han elaborado principios para salvaguardar los derechos de las personas con respecto al uso de IA, puntos que se deben mirar a nivel local para usarlos como ejemplos en la futura Política Nacional de IA.
La inclusión, la transparencia, la protección de datos personales, el desarrollo y uso responsable, y los valores fundamentales, son algunos de los aspectos relevantes que la ejecutiva enfatiza.
"La IA debe ser confiable y transparente. Los sistemas deben ser capaces de explicar la lógica detrás de sus recomendaciones, es decir, cómo ha sido entrenado el algoritmo, cómo se usa y de dónde obtuvo la data para sus análisis. Esto también se conoce como el principio de explicabilidad", dice Guazzotti.
Desde su posición como líder de una empresa, la ejecutiva plantea que una de las preocupaciones del sector empresarial es cómo generar entre todos una política que resguarde los principios y que al mismo tiempo incentive el desarrollo de la industria.

Ricardo Baeza-Yates:
Talento y algoritmos éticos
El investigador del Instituto Milenio de Fundamentos de los Datos e integrante del Consejo Asesor de Inteligencia Artificial (IA) del Gobierno de España, Ricardo Baeza-Yates, asegura que la Política debe incorporar seis pilares: investigación relacionada a la IA; datos; talento; uso de la IA en el sector productivo; uso de la IA en el sector público y el impacto de la IA en la sociedad.
El también profesor titular de Ciencias de la Computación de la Universidad de Chile, afirma que la consecuencia de no tener talento, "es que se usa mal la IA y todos los problemas aparecen (...) Se deben hacer cambios en las universidades para tener más talento, más posgrados y cursos. Las universidades deben seguir la tendencia de tener gente formada en estos temas y para eso se deben tener buenos profesores, gente que se debe recuperar, que están en otros países", dice el también director de Data Science de Northeastern University.
También se refiere a la "ética de los algoritmos" y plantea que "hay muchas cosas que se pueden hacer sin que las personas sepan. En cualquier momento en que un algoritmo vaya a usar datos para un fin que pueda afectar a la persona, ésta debe ser consciente de esto", sostiene Baeza-Yates.