VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contrasteCuando el algoritmo despide ¿quién firma la carta?
ALFREDO ENRIONE DIRECTOR CENTRO DE GOBIERNO CORPORATIVO Y SOCIEDAD ESE ESCUELA DE NEGOCIOS, U. ANDES
Un trabajador con veinte años en una compañía es desvinculado por e-mail. El mensaje es impersonal, pero técnicamente correcto. Cuando pide una reunión para entender las razones, le explican que la decisión provino de un sistema de evaluación de desempeño asistido por inteligencia artificial (IA), y que la determinación no admite revisión humana. Entonces, lo que cualquiera preguntaría: ¿quién es responsable de esto?
En 2023, la Equal Employment Opportunity Commission de EEUU cerró su primer acuerdo público por discriminación algorítmica en contratación: iTutorGroup había configurado su sistema para descartar de manera automática a mujeres mayores de 55 años y hombres mayores de 60. Más de doscientos postulantes calificados quedaron fuera antes de cualquier mirada humana. El acuerdo costó US$ 365.000. La doctrina que dejó instalada es bastante más cara.
Amazon vivió antes lo mismo. En 2018, abandonó en silencio un sistema de reclutamiento desarrollado durante años: entrenado con los currículums históricos de la compañía, el modelo aprendió —dentro de su lógica estadística— que contrataba hombres en cargos técnicos, y replicó el patrón con eficiencia. Lo desecharon con buen criterio. La pregunta incómoda es cuánto tiempo lo usaron antes de notarlo.
“Cuando un algoritmo despide hay tres candidatos a firmar la carta. Recursos Humanos, el proveedor del software. Y el directorio. Los tres se miran. Ninguno quiere firmar”.
El caso que hoy conviene seguir es Mobley contra Workday, en cortes federales de California. Ahí ya no se discute si el algoritmo discrimina, sino quién responde cuando lo hace. El tribunal aceptó que un proveedor cuyo sistema filtra candidatos por cuenta del empleador puede ser tratado como su agente, y durante 2026 ha ido ampliando el alcance del caso a discriminación por edad, raza, sexo y discapacidad. El precedente en formación es simple y demoledor: ni el cliente puede decir “es problema del proveedor”, ni el proveedor puede decir “yo solo vendo software”.
Cuando un algoritmo despide hay tres candidatos a firmar la carta. Recursos Humanos, que ejecuta la decisión sin haberla tomado en sustancia. El proveedor del software, que entrega la plataforma, pero no elige a quién despedir. Y el directorio, que aprobó —o no objetó— la adopción del sistema. Los tres se miran. Ninguno quiere firmar.
Esa difusión de la responsabilidad es exactamente lo que la regulación empezó a corregir. La ley local 144 de Nueva York exige auditoría de sesgo anual y notificación al candidato cuando una decisión de empleo está siendo asistida por IA. El EU AI Act clasifica estos sistemas como de alto riesgo y activa obligaciones de transparencia, documentación y supervisión humana significativa.
Chile ya no está fuera de ese perímetro. El 1 de diciembre próximo entra en plena vigencia la ley 21.719, y con ella el derecho de las personas a oponerse a decisiones automatizadas que produzcan efectos jurídicos relevantes, una Agencia de Protección de Datos Personales con facultades de fiscalización y sanción, y multas de hasta 20.000 UTM que, en reincidencia de grandes empresas, pueden llegar al 4% de los ingresos anuales. Quedan cuatro meses. La mayoría de los directorios que conozco no ha puesto el tema en tabla ni una vez.
Antes de aprobar, o de tolerar, el uso de IA en decisiones que afectan a personas, un directorio debería poder responder cinco preguntas sin titubear. Quién es el ser humano responsable de cada decisión asistida por algoritmos: si la respuesta es “el sistema”, el sistema no debería estar tomando esa decisión. Si hay revisión humana significativa y no apenas nominal: alguien que pueda revertir al algoritmo y tenga información, tiempo y autoridad para hacerlo. Si el sesgo se audita con rigor y por un tercero independiente del proveedor. Si se notifica a los afectados cuando la decisión que los involucra fue asistida por IA. Y qué dice el contrato con el proveedor sobre responsabilidad por daños derivados de decisiones algorítmicas. La gobernanza de la IA, despojada de su jerga, se reduce a una pregunta: quién firma la carta.
