ACCESIBILIDAD
- Alto contraste

Tech & Negocios

Investigadora de Google reconoce que persisten retos en la gestión de sesgos algorítmicos en la IA

Al respecto, Pilar Manchón indicó que se requieren métricas para dimensionar aspectos intangibles como la salud emocional o la influencia de la inteligencia artificial en la percepción de la realidad.

Por: Marco Zecchetto

Publicado: Miércoles 28 de mayo de 2025 a las 04:00 hrs.

Marco Zecchetto

investigación

Inteligencia Artificial

tecnología

Directora senior de Ingeniería y Estrategia de Investigación en IA de Google, Pilar Manchón.

La inteligencia artificial (IA) ha permitido el desarrollo de sistemas capaces de asistir a los humanos en sus tareas laborales, mejorando la productividad. Sin embargo, su avance conlleva retos, entre ellos, la gestión de los sesgos asociados al entrenamiento de los modelos y los sesgos -de raza, género o edad, entre otros- que se traspasan a los algoritmos y su posible impacto en la percepción social y emocional de los usuarios.

Ese fue uno de los temas que planteó a DF -desde Silicon Valley, Estados Unidos- la directora senior de Ingeniería y Estrategia de Investigación en IA de Google, Pilar Manchón, quien será una de las oradoras clave del Singularity Summit Chile 2025, donde expondrá sobre ética e IA centrada en las personas. La experta reconoció que, pese a los avances, todavía persisten desafíos en la gestión de los sesgos algorítmicos asociados a la IA.

“Hay cosas que todavía estamos aprendiendo a gestionar. Entonces todavía tenemos parte de esos sesgos que siguen embebidos en los datos y que no son perfectos”.

“No estamos dejando pasar nada (sesgos) a propósito. Otra cosa es que no sepamos cómo gestionarlos, ¿No? (...) Hay cosas que todavía estamos aprendiendo a gestionar. Entonces todavía tenemos parte de esos sesgos que siguen embebidos en los datos y que no son perfectos”, afirmó la experta española.

Doctora en Lingüística Computacional de Stanford, Máster en Ciencia Cognitiva y Lenguaje Natural de la Universidad de Edimburgo (Escocia) y licenciada en Filología Inglesa de la Universidad de Sevilla (España), Manchón se ha especializado en inteligencia artificial, interfaces cognitivas, y en el desarrollo de tecnologías conversacionales que entienden el comportamiento humano y el lenguaje natural, impulsando sistemas de IA éticos, inclusivos y con relevancia cultural.

En 2005 cofundó Indisys, una startup pionera en agentes virtuales inteligentes, que luego adquirió Intel. Desde entonces, ha ocupado roles estratégicos en Amazon, Roku y hoy en Google, donde se dedica a la investigación y alineamiento de la IA con los valores humanos, y a la “proyección” de los desarrollos de la compañía “para que la gente lo entienda”.

Dimensiones intangibles

Para Manchón, uno de los mayores desafíos de la IA y los sesgos algorítmicos es encontrar mecanismos para medir dimensiones “intangibles y subjetivas” que antes “no tenían cabida” en la tecnología, como la salud emocional, la “inteligencia social” o la manera en que estos sistemas influyen en la percepción de la realidad.

“Hemos llegado a que la tecnología es capaz de emular comportamientos humanos complejos, y estos se enredan de alguna manera con cómo percibimos la realidad y cómo nos comunicamos con el medio”, señaló la investigadora.

En ese contexto, planteó que, para avanzar en la gestión ética de los sistemas de IA actuales, se deberán desarrollar nuevas métricas, en las que “todavía estamos trabajando”.

Manchón también enfatizó la necesidad de integrar la ciencia, la ética y las humanidades en los equipos de desarrollo, porque crear “un sistema sin saber a dónde quiere ir uno, desde el punto de vista humano, es absurdo”.

Colaboración humano-máquina

La investigadora de Google también abordó la integración de agentes de IA autónomos en entornos laborales y señaló que el desafío es construir nuevos modelos colaborativos humano-máquina que no estén pensados únicamente en base a la forma en que interactúan y se comunican los humanos, sino en “redes híbridas” donde hay humanos y máquinas “contribuyendo a ese formato de decisión o ese patrón de comportamiento”.

“Nuestro sistema cognitivo funciona como funciona, con lo cual este sistema nuevo tiene que ser compatible con nuestras propias necesidades y capacidades, pero no necesariamente tiene que estructurarse de la misma manera que si solo hubiera humanos involucrados en el proceso”, comentó.

La investigadora también señaló que “no hay que perder la noción de hacer las cosas de cara a nuestra humanidad, es decir, mantener siempre a la persona en el centro”.

Lenguaje y sur global

Manchón valoró “desde el punto de vista científico” iniciativas regionales como LatamGPT -el modelo de lenguaje grande desarrollado en Chile por el Centro Nacional de Inteligencia Artificial y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación- debido a que, según la experta, no existen estudios concluyentes sobre cómo el predominio del inglés puede influir de manera negativa en la estructura y resultados de los modelos ante otras lenguas y culturas.

“Hay un fenómeno natural que, en función de las cuestiones geopolíticas, siempre ha habido una transferencia de unos idiomas a otros, pero en este caso puede que esa transferencia se vea multiplicada exponencialmente debido al uso de la inteligencia artificial con una perspectiva más anglosajona. Al menos desde el punto de vista científico, es un ejercicio interesante (LatamGPT)”, dijo.

Añadió que, para avanzar hacia una mayor soberanía tecnológica en la región, se requiere desarrollar estrategias nacionales de IA que incluyan infraestructura, conectividad, talento y recursos.

“Sin infraestructura no se puede realmente implementar, con lo cual es necesario empezar por los cimientos”, afirmó.

ARTICULOS RELACIONADOS

<p>Autoridades, parlamentarios y representantes del sector público y privado se reunieron en la primera jornada del encuentro "Patagonia Ciber 2025".</p>

Agencia Nacional de Ciberseguridad realiza en Puerto Varas su primer evento público a nivel país

Chris Wright, CTO de Red Hat: “Los principios del código abierto están creando una nueva ola de innovación en IA”

<p>Nicolás Goldstein, presidente ejecutivo de Accenture Hispanoamérica</p>

DF Lab Opinión/ Las fuerzas del cambio empresarial

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

DF SUD

¿Competencia para JetSmart y Flybondi? La nueva línea aérea que Milei autorizó en Argentina

DF SUD

Visas canceladas por Trump: ¿qué países de América Latina tienen más estudiantes en Estados Unidos?

DF SUD

¿Efecto Nubank o guerra comercial? BBVA anuncia la mayor inversión del sexenio de Claudia Sheinbaum

Cultura

Paolo Bortolameolli: “Independiente del formato, la música es lo más importante”

Cultura

Basílica de los Sacramentinos en peligro

Glocal

Gira de Trump por el Golfo: jets, megadeals y halagos

Entre Códigos Laboral & Personas Construcción Innovación y Startups Somos Financieras Fondos de Inversión

La nueva área tributaria de Ontier en Chile estará liderada por Roger y Roland Matthei y contará con 12 profesionales.

Entre Códigos

Firma global de origen español Ontier Abogados adquiere estudio tributario Matthei: "Chile es un mercado prioritario para nosotros"

Con un equipo de 12 profesionales, la nueva área tributaria de Ontier estará liderada por Roger y Roland Matthei.

Equipo de RBB Economics basado en la oficina de Santiago , compuesto por cuatro chilenos.

Entre Códigos

Aterriza en Chile conocida consultora europea experta en libre competencia

Entre Códigos

FerradaNehme queda con mayoría de socias mujeres tras incorporación de nueva abogada

Rodrigo Reyes preside la recientemente fundada organización.

Entre Códigos

Nuevo gremio de compliance: “Debemos utilizar programas de cumplimiento en el sector estatal para mejorar la ética pública”

Entre Códigos

Socio de Dentons lanzó libro sobre el ecosistema Fintech chileno y sus desafíos regulatorios

Entre Códigos

Firma global de origen español Ontier Abogados adquiere estudio tributario Matthei: "Chile es un mercado prioritario para nosotros"

Entre Códigos

Aterriza en Chile conocida consultora europea experta en libre competencia

Entre Códigos

FerradaNehme queda con mayoría de socias mujeres tras incorporación de nueva abogada

Entre Códigos

Nuevo gremio de compliance: “Debemos utilizar programas de cumplimiento en el sector estatal para mejorar la ética pública”

Entre Códigos

Socio de Dentons lanzó libro sobre el ecosistema Fintech chileno y sus desafíos regulatorios

Laboral & Personas

Desaceleración en la creación de empleo prende las alarmas respecto al estado del mercado laboral

El INE informó ayer que, tras 12 meses de caídas consecutivas, la tasa de desocupación mostró un incremento, ubicándose en 8,8% durante el trimestre febrero-abril de 2025.

Laboral & Personas

La CUT proclama oficialmente a José Manuel Díaz como nuevo presidente de la multisindical

Laboral & Personas

Licencias médicas: presidenta de la Sofofa dice que “es hora de repensar nuestra función pública a través de un Estatuto Administrativo”

Laboral & Personas

INE: tasa de desocupación nacional sube a 8,8% en el trimestre febrero-abril

Laboral & Personas

La arremetida de ChileMujeres y 26 organizaciones sociales en pos de que se apruebe la sala cuna universal

Laboral & Personas

Desaceleración en la creación de empleo prende las alarmas respecto al estado del mercado laboral

Laboral & Personas

La CUT proclama oficialmente a José Manuel Díaz como nuevo presidente de la multisindical

Laboral & Personas

Licencias médicas: presidenta de la Sofofa dice que “es hora de repensar nuestra función pública a través de un Estatuto Administrativo”

Laboral & Personas

INE: tasa de desocupación nacional sube a 8,8% en el trimestre febrero-abril

Laboral & Personas

La arremetida de ChileMujeres y 26 organizaciones sociales en pos de que se apruebe la sala cuna universal

Construcción

Ingevec y Credicorp levantan fondo de US$ 17 millones para proyectos de vivienda social

Se trata de tres desarrollos que se emplazarán en el sur del país. En total, suman 640 viviendas y contemplan una inversión global de US$ 55 millones.

Construcción

Inmobiliaria de Felipe Ibáñez avanza en emblemático proyecto y estaría listo en 2029

Construcción

Gobierno presiona a municipios por planificación urbana: tienen 20 días para informar estado de sus planes reguladores

Construcción

Ya es oficial: Todo sobre la “Ley de Subsidio al Dividendo” que el Gobierno promulgó este jueves

Construcción

Puerto de San Antonio selecciona a 34 empresas para terminal exterior que totaliza inversión de US$ 4.000 millones

Construcción

Ingevec y Credicorp levantan fondo de US$ 17 millones para proyectos de vivienda social

Construcción

Inmobiliaria de Felipe Ibáñez avanza en emblemático proyecto y estaría listo en 2029

Construcción

Gobierno presiona a municipios por planificación urbana: tienen 20 días para informar estado de sus planes reguladores

Construcción

Ya es oficial: Todo sobre la “Ley de Subsidio al Dividendo” que el Gobierno promulgó este jueves

Construcción

Puerto de San Antonio selecciona a 34 empresas para terminal exterior que totaliza inversión de US$ 4.000 millones

Liliana Hernández y Franco Paredes, fundadores de Lumine.

Innovación y Startups

Startup chilena que creó revestimientos con cuarzo para alargar la vida útil de viviendas abrirá fábrica en Costa Rica

Lumine, que desarrolla soluciones hidrorepelentes y capaces de soportar sismos, ya está en conversaciones con el país centroamericano para concretar sus primeras ventas durante este año.

Innovación y Startups

Industria de inversión de riesgo valora rol de Corfo en su desarrollo y pide ingreso de institucionales

Osvaldo Ortúzar, fundador y CEO de Lookiar.

Innovación y Startups

Startup de experiencias inmersivas de realidad aumentada busca ampliar su presencia internacional

La convocatoria ReWine abre este miércoles 28 de mayo.

Innovación y Startups

Viña Concha y Toro y Hubtec buscan soluciones innovadoras para revalorizar residuos de la industria del vino

Josefa Karmy, Camilo Espinoza y Simón Oyaneder, fundadores de Ulern.

Innovación y Startups

Edtech lanzó aplicación educativa con IA para apoyar estudios de escolares y universitarios

Innovación y Startups

Startup chilena que creó revestimientos con cuarzo para alargar la vida útil de viviendas abrirá fábrica en Costa Rica

Innovación y Startups

Industria de inversión de riesgo valora rol de Corfo en su desarrollo y pide ingreso de institucionales

Innovación y Startups

Startup de experiencias inmersivas de realidad aumentada busca ampliar su presencia internacional

Innovación y Startups

Viña Concha y Toro y Hubtec buscan soluciones innovadoras para revalorizar residuos de la industria del vino

Innovación y Startups

Edtech lanzó aplicación educativa con IA para apoyar estudios de escolares y universitarios

Estudio Adapsys-DF muestra que en 2024 disminuyó la inclusión de la diversidad en las organizaciones

La segunda versión de la encuesta mostró que la mayoría de las empresas se aproxima al tema solo desde lo legal, y que las industrias más avanzadas son asesorías y servicios, y la minería.

Maricho Gálvez, gerenta de emprendimiento de Corfo.

Corfo lanza tres programas para financiar emprendimientos liderados por mujeres

Equidad en tiempos de algoritmos: los desafíos laborales que ellas enfrentan ante el auge de la IA

Economía del cuidado: las preocupaciones que tienen las cuidadoras en Chile

Cómo está ganando terreno la presencia femenina en los family offices

Estudio Adapsys-DF muestra que en 2024 disminuyó la inclusión de la diversidad en las organizaciones

Corfo lanza tres programas para financiar emprendimientos liderados por mujeres

Equidad en tiempos de algoritmos: los desafíos laborales que ellas enfrentan ante el auge de la IA

Economía del cuidado: las preocupaciones que tienen las cuidadoras en Chile

Cómo está ganando terreno la presencia femenina en los family offices

Fondos de Inversión

Grupo Patio regresa al mercado con nuevo fondo inmobiliario por US$ 60 millones junto a Capital Advisors

Invertirá en el desarrollo de hasta 15 centros vecinales, stripcenters y complejos stand alone. Entre los inversionistas destacan family offices e institucionales.

Fondos de Inversión

Caso Sartor: liquidador concretó disolución de cuatro fondos privados y recupera gestión de US$ 61 millones en pagarés

Fondos de Inversión

Singular lanza su noveno ETF y prepara nuevo instrumento para invertir en mercados emergentes

Fondos de Inversión

Warren Buffet habla sobre su decisión de retirarse: “Por alguna extraña razón, no empecé a envejecer hasta los 90”

Fondos de Inversión

Caso Sartor: se crea nuevo grupo de aportantes y acuden a favor de medidas de la CMF en la Corte de Apelaciones

Fondos de Inversión

Grupo Patio regresa al mercado con nuevo fondo inmobiliario por US$ 60 millones junto a Capital Advisors

Fondos de Inversión

Caso Sartor: liquidador concretó disolución de cuatro fondos privados y recupera gestión de US$ 61 millones en pagarés

Fondos de Inversión

Singular lanza su noveno ETF y prepara nuevo instrumento para invertir en mercados emergentes

Fondos de Inversión

Warren Buffet habla sobre su decisión de retirarse: “Por alguna extraña razón, no empecé a envejecer hasta los 90”

Fondos de Inversión

Caso Sartor: se crea nuevo grupo de aportantes y acuden a favor de medidas de la CMF en la Corte de Apelaciones

BRANDED CONTENT

BRANDED CONTENT

Reconocimiento al compromiso de Santander con sus clientes

Destacada participación de Santander en los premios Salmón

Patrocina: Santander

BRANDED CONTENT

Estrena Lynk & Co. la disruptiva marca del Grupo Geely con genética Volvo

Tattersall Automotriz sigue expandiéndose en Chile

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Audi A3: renovación en el nicho del dinamismo

La exitosa serie de Audi se renueva tanto en sus variantes hatchback y sedán,

Patrocina: GARAGE / STUDIO DF

BRANDED CONTENT

Las Claves de Chery para conquistar al consumidor chileno

Patrocina: GARAGE / STUDIO DF

Suplementos

Papel Digital

Diario Financiero

Lee la edición de hoy

DF.CL

FIN DE SEMANA

PAPEL DIGITAL

Plataformas

Corporativo

MARCAS GRUPO DF

Contactos

Dimensiones intangibles

Colaboración humano-máquina

Lenguaje y sur global

Te recomendamos

ARTICULOS RELACIONADOS

Agencia Nacional de Ciberseguridad realiza en Puerto Varas su primer evento público a nivel país

Chris Wright, CTO de Red Hat: “Los principios del código abierto están creando una nueva ola de innovación en IA”

DF Lab Opinión/ Las fuerzas del cambio empresarial

LO MÁS LEÍDO

La dura respuesta de Etcheberry a Escobar: "No es bueno tener directores del SII que estén trabajando con contribuyentes"

Marcel interpela a los empresarios: "Ustedes son empleadores... saben perfectamente lo que pasa con las licencias médicas en Chile"

Inmobiliaria de Felipe Ibáñez avanza en emblemático proyecto y estaría listo en 2029

El rearme de Grupo Patio: regresa al negocio original y pone en venta activos no estratégicos

CLC pierde más de $ 23 mil millones en el primer trimestre y alude a "etapa de profundos cambios y reparaciones"

Firma global de origen español Ontier Abogados adquiere estudio tributario Matthei: "Chile es un mercado prioritario para nosotros"

Grupo Errázuriz responde a Pacheco: "Actitud y declaraciones no se condicen con la responsabilidad de su cargo"

El 20% de las acciones de empresas IPSA no ha logrado recuperar sus precios promedios de la última década

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Newsletters

Conoce lo más importante que hizo noticia en la primera parte de la jornada. Por Concetta Caciattore - Lunes a viernes PM

Entérate primero cómo viene el mercado, las noticias que debes saber y los hechos que marcarán la pauta en el día. Por Marcela Vélez-Plickert - Lunes a viernes AM

Lo urgente que debes saber en mercados, empresas, economía e internacional - 24/7

NEWS DIARIO - Domingo a jueves PM

NOTICIAS MÁS LEÍDAS - Lunes a viernes PM, Sábado AM

Your essential daily briefing - Lunes, martes y miércoles PM

Análisis, fondos de inversión, indicadores, proyectos, tendencias, terrenos - Lunes AM

NOTICIAS DE PORTADA - Sábado AM

¿Competencia para JetSmart y Flybondi? La nueva línea aérea que Milei autorizó en Argentina

Visas canceladas por Trump: ¿qué países de América Latina tienen más estudiantes en Estados Unidos?

¿Efecto Nubank o guerra comercial? BBVA anuncia la mayor inversión del sexenio de Claudia Sheinbaum

Paolo Bortolameolli: “Independiente del formato, la música es lo más importante”

Basílica de los Sacramentinos en peligro

Gira de Trump por el Golfo: jets, megadeals y halagos

Firma global de origen español Ontier Abogados adquiere estudio tributario Matthei: "Chile es un mercado prioritario para nosotros"

Aterriza en Chile conocida consultora europea experta en libre competencia

FerradaNehme queda con mayoría de socias mujeres tras incorporación de nueva abogada

Nuevo gremio de compliance: “Debemos utilizar programas de cumplimiento en el sector estatal para mejorar la ética pública”

Socio de Dentons lanzó libro sobre el ecosistema Fintech chileno y sus desafíos regulatorios

Firma global de origen español Ontier Abogados adquiere estudio tributario Matthei: "Chile es un mercado prioritario para nosotros"

Aterriza en Chile conocida consultora europea experta en libre competencia

FerradaNehme queda con mayoría de socias mujeres tras incorporación de nueva abogada

Nuevo gremio de compliance: “Debemos utilizar programas de cumplimiento en el sector estatal para mejorar la ética pública”

Socio de Dentons lanzó libro sobre el ecosistema Fintech chileno y sus desafíos regulatorios

Desaceleración en la creación de empleo prende las alarmas respecto al estado del mercado laboral

La CUT proclama oficialmente a José Manuel Díaz como nuevo presidente de la multisindical

Licencias médicas: presidenta de la Sofofa dice que “es hora de repensar nuestra función pública a través de un Estatuto Administrativo”

INE: tasa de desocupación nacional sube a 8,8% en el trimestre febrero-abril

La arremetida de ChileMujeres y 26 organizaciones sociales en pos de que se apruebe la sala cuna universal

Desaceleración en la creación de empleo prende las alarmas respecto al estado del mercado laboral

La CUT proclama oficialmente a José Manuel Díaz como nuevo presidente de la multisindical

Licencias médicas: presidenta de la Sofofa dice que “es hora de repensar nuestra función pública a través de un Estatuto Administrativo”

INE: tasa de desocupación nacional sube a 8,8% en el trimestre febrero-abril

La arremetida de ChileMujeres y 26 organizaciones sociales en pos de que se apruebe la sala cuna universal

Ingevec y Credicorp levantan fondo de US$ 17 millones para proyectos de vivienda social

Inmobiliaria de Felipe Ibáñez avanza en emblemático proyecto y estaría listo en 2029

Gobierno presiona a municipios por planificación urbana: tienen 20 días para informar estado de sus planes reguladores

Ya es oficial: Todo sobre la “Ley de Subsidio al Dividendo” que el Gobierno promulgó este jueves

Puerto de San Antonio selecciona a 34 empresas para terminal exterior que totaliza inversión de US$ 4.000 millones

Ingevec y Credicorp levantan fondo de US$ 17 millones para proyectos de vivienda social

Inmobiliaria de Felipe Ibáñez avanza en emblemático proyecto y estaría listo en 2029

Gobierno presiona a municipios por planificación urbana: tienen 20 días para informar estado de sus planes reguladores

Ya es oficial: Todo sobre la “Ley de Subsidio al Dividendo” que el Gobierno promulgó este jueves

Puerto de San Antonio selecciona a 34 empresas para terminal exterior que totaliza inversión de US$ 4.000 millones

Startup chilena que creó revestimientos con cuarzo para alargar la vida útil de viviendas abrirá fábrica en Costa Rica

Industria de inversión de riesgo valora rol de Corfo en su desarrollo y pide ingreso de institucionales

Startup de experiencias inmersivas de realidad aumentada busca ampliar su presencia internacional

Viña Concha y Toro y Hubtec buscan soluciones innovadoras para revalorizar residuos de la industria del vino

Edtech lanzó aplicación educativa con IA para apoyar estudios de escolares y universitarios

Startup chilena que creó revestimientos con cuarzo para alargar la vida útil de viviendas abrirá fábrica en Costa Rica

Industria de inversión de riesgo valora rol de Corfo en su desarrollo y pide ingreso de institucionales

Startup de experiencias inmersivas de realidad aumentada busca ampliar su presencia internacional

Viña Concha y Toro y Hubtec buscan soluciones innovadoras para revalorizar residuos de la industria del vino

Edtech lanzó aplicación educativa con IA para apoyar estudios de escolares y universitarios