Para seguir el ritmo de cambio de la tecnología, los reclutadores están incorporando IA cada vez más a sus procesos. De hecho, un estudio de Gartner de 2023 concluyó que el 81% de los responsables de recursos humanos ya habían implementado o estaban explorando soluciones de contratación con IA generativa en el trabajo. Y en este tema, hay problemas de sesgo que no son menores, según expertas en la materia.
Un informe del Banco Interamericano de Desarrollo (BID), la OCDE y la Unesco reveló que esta tecnología puede impactar en las oportunidades laborales de las mujeres e, incluso, en el caso de que su uso fuera cotidiano u obligatorio en un futuro, se estarían utilizando sistemas entrenados en su mayoría por hombres ya que hoy, solo el 6% de los desarrolladores profesionales de software en esta área son mujeres, según datos de la Unesco.
SOLO EL 18% DE LOS AUTORES en las principales conferencias de IA son mujeres, SEGÚN LA UNESCO.
“Muchos algoritmos de IA están entrenados con datos históricos que reflejan desigualdades existentes, lo que puede dar lugar a resultados discriminatorios, como la exclusión de mujeres en ciertas oportunidades laborales o servicios automatizados”, explica la chief innovation, learning & connect officer de Trust Journey, Carolina Maliqueo, quien destaca que ellas enfrentan una exclusión aún más evidente en las economías menos desarrolladas del mundo, mientras que en los países más avanzados ya se están implementando políticas para cerrar esta brecha de género.
Líderes versus asistentes
Los sesgos en los procesos de selección laboral o en las herramientas de evaluación de desempeño pueden generar barreras adicionales en el desarrollo profesional de las mujeres, ya que, por ejemplo, “algunos algoritmos de procesamiento de lenguaje natural han demostrado asociar palabras como ‘líder’ con hombres y ‘asistente’ con mujeres, perpetuando estereotipos que ya existen en nuestra sociedad”, asegura la directora de Accenture Chile, Sandra Barros. En ese sentido, destaca que un factor clave que alimenta estos sesgos es la falta de diversidad en los equipos que diseñan y entrenan los sistemas de IA. Según datos de la Unesco, solo el 20% de los empleados que desempeñan funciones técnicas en empresas de aprendizaje automático y el 12% de los investigadores de inteligencia artificial a nivel mundial son mujeres.
Una apreciación compartida por la investigadora principal del Centro Nacional de Inteligencia Artificial (Cenia) y académica del departamento de informática de la U. Federico Santa María, Claudia López, quien añade que según el Índice Latinoamericano de IA, la participación de las mujeres en esta industria llega a solo un 17% en Chile y a un 26,8% a nivel global. “Esta subrepresentación implica que la IA se desarrolla principalmente desde perspectivas masculinas, dejando de lado problemáticas relevantes para las mujeres. Como resultado, los beneficios de la IA también nos impactan menos”, precisa López. A su juicio, pese a que la participación es más baja en Chile en comparación a otros países, “como sociedad hemos avanzado en reconocer la desigualdad de género como un problema”, dice, haciendo alusión a diversas iniciativas locales que buscan avanzar en este ámbito.
De igual manera, la subrepresentación femenina en áreas STEM (ciencia, tecnología, ingeniería y matemáticas) “limita su influencia en el desarrollo y regulación de tecnologías emergentes, como la IA, y puede ampliar la brecha de género en el ámbito laboral”, asegura la socia de human capital en Deloitte, Claudia Cornejo, quien añade que la falta de referentes también puede limitar la curiosidad de las mujeres en estos ámbitos.
Hacia una IA más equitativa
Para avanzar hacia la equidad de género, López plantea que lo primero es evaluar los impactos de los sistemas de IA y establecer si hay impactos diferenciados por género. “Debe haber medidas que incentiven estas evaluaciones, como parte de certificaciones, por ejemplo, pero también es necesario que si la evaluación muestra que hay impactos diferenciados, que la ley proteja a las personas afectadas negativamente y establezca obligaciones de corrección para los proveedores de los sistemas que estén funcionando mal”, acota.
Por su parte, Cornejo advierte que hoy “la IA no es neutral”, por lo que para lograr que sea más equitativa es esencial aumentar la participación de las mujeres en este campo, así como también es crucial mejorar la calidad y diversidad de los datos utilizados para entrenar los algoritmos. Esto implica “tener la posibilidad de explicar y auditar cómo los algoritmos están tomando las decisiones, es decir, qué variables de entre los datos están siendo las que definen la decisión tomada”, complementa Barros. A sus ojos, la presencia de mujeres en roles técnicos y estratégicos permitirá identificar y mitigar sesgos antes de que estos se incorporen a los sistemas y favorecer modelos de IA de código abierto también puede ayudar a que la comunidad pueda auditar.
Invertir en educación y capacitación tecnológica para mujeres es otro de los elementos cruciales, según Maliqueo, para impulsar la participación en la industria, a lo que añade la necesidad de financiar proyectos que prioricen el análisis del impacto de la IA en la equidad de género y que desarrollen soluciones que respondan a las necesidades específicas de las mujeres.