Martín Tironi: “Estamos empezando a pedirle a una IA que nos ayude a parecer más humanos”
El sociólogo y profesor titular de la Pontificia Universidad Católica de Chile, Martín Tironi, lleva años estudiando cómo las tecnologías transforman nuestras formas de vida. Investigador del Núcleo Milenio FAIR, conversó con DF desde Alemania, donde realiza una estadía como investigador visitante en la Technische Universität Berlin.
- ¿Qué cambia en nuestra forma de relacionarnos cuando empezamos a interactuar con máquinas que responden como una persona?
- Cada vez más personas utilizan la IA no solamente para trabajar, sino como terapeuta o como un refugio íntimo. Hay preguntas que no nos atrevemos a compartir con otros porque tememos ser juzgados, mientras que frente a una máquina podemos sentir que somos comprendidos y acompañados. Sin embargo, es una relación profundamente asimétrica.
- ¿En qué sentido asimétrica?
- La máquina no se expone, no se siente herida y tampoco arriesga nada en esa relación. Nos ofrece algo parecido a un vínculo, pero sin las dificultades que implica relacionarse con otro. Las fallas en nuestras relaciones no son simplemente defectos, son también parte de lo que significa aprender a convivir con otros, es parte de nuestra fragilidad constitutiva.
- ¿Y qué pasa con las relaciones con otras personas cuando nos acostumbramos a un vínculo sin esas dificultades, en el que la IA siempre está disponible, responde y se adapta a nosotros?
- Es lo que yo llamo la promptización del mundo. Preguntamos y obtenemos una respuesta, pedimos una imagen y aparece, encontramos un interlocutor disponible a cualquier hora. El problema es que la vida no es así. Sería preocupante acostumbrarnos a respuestas inmediatas y adaptadas a nosotros, porque podríamos volvernos menos tolerantes frente a lo que no está disponible. Una sociedad no puede funcionar como un buen chatbot. Vivir con otros supone aceptar que no todo está hecho para nosotros y que siempre habrá algo del otro que se nos escape o no controlamos.
- Esa promptización que describe, ¿puede también hacer que empecemos a delegarle cada vez más decisiones a la IA?
Sin duda la IA está ampliando las posibilidades humanas, pero me preocupa una delegación cognitiva acrítica. Que por comodidad y por el afán de optimizarlo todo, empecemos a entregar cada vez más pequeñas decisiones y operaciones de juicio a estos sistemas sin preguntarnos demasiado qué estamos dejando de hacer nosotros. Es algo gradual. Hay ciertas capacidades, como dudar, recordar, interpretar, equivocarse, que dejamos de ejercitar porque vivimos con la presión de respuestas inmediatas, promptizadas. Y esas capacidades también se forman practicándolas. Esto podría producir una suerte de deshumanización artificial. La pregunta no es cuánto delegar a la IA, sino qué capacidades queremos seguir cultivando precisamente porque existe la IA.
“Sería preocupante acostumbrarnos a respuestas inmediatas y adaptadas a nosotros, porque podríamos volvernos menos tolerantes frente a lo que no está disponible”.
- ¿Qué significa esa “deshumanización artificial”?
- Hay algo bastante paradójico que está empezando a pasar, y es que estamos empezando a pedirle a una IA que nos ayude a parecer más humanos. Pero quizás deshumanización no sea la palabra exacta, porque somos cada vez más híbridos. La IA deja de ser una prótesis externa para ciertas tareas y empieza a formar parte de nuestra manera de pensar, ser y actuar en el mundo. El desafío no es cómo mantenernos puros frente a ella, sino qué tipo de humanos queremos llegar a ser en esa relación. Y esa pregunta se vuelve urgente cuando buena parte de la infraestructura que la hace posible está en manos de un grupo muy reducido de empresas.
- ¿Existe el riesgo de homogeneización de nuestras formas de pensar?
- Cuando todas las personas utilizan modelos entrenados con conjuntos de datos similares, existe un riesgo real de homogeneización cultural, lingüística e incluso en las maneras de formular los problemas. Podemos terminar pensando distinto de la misma manera. Y quizás lo que vayamos perdiendo en el camino sea justamente lo que nos hace más difíciles de predecir: nuestra indeterminación. Quizás el verdadero riesgo no sea que la IA piense como nosotros. El peligro es que nosotros terminemos aprendiendo a pensar y hablar como una sola IA. Por eso la cuestión no es dejar de usar estos sistemas, sino aprender a convivir con ellos y desarrollar sistemas plurales. Conservar espacios de duda, de fricción e incluso de equivocación también es una manera de ejercer nuestra autonomía.
- ¿Y qué pasa en el trabajo? Si la IA nos ayuda hacer las cosas mucho más rápido, ¿eso significa que vamos a trabajar menos o que se esperará que produzcamos más?
Hay una paradoja interesante. La IA puede permitirnos hacer cosas mucho más rápido, pero eso no significa necesariamente que vayamos a trabajar menos. Muchas veces ocurre lo contrario, y el tiempo que se libera vuelve convertido en una nueva expectativa, en más trabajo. Si antes escribíamos tres informes, ahora podemos escribir 10. La pregunta entonces es quién se queda con ese tiempo que supuestamente estamos ahorrando.
Milagros Miceli: “Cada vez más vemos gente que le pregunta al chatbot cómo dejar a su novia o que lo utiliza para hacer terapia”
Reconocida por la revista Time como una de las 100 personas más influyentes en inteligencia artificial en 2025, la socióloga argentina y doctora en ingeniería informática por la Universidad Técnica de Berlín, Milagros Miceli, advierte sobre la pérdida de pensamiento crítico, cuestiona las promesas de productividad de estas tecnologías y pone el foco en los trabajadores invisibles que hacen posible su funcionamiento.
- ¿Qué cambia en nuestras relaciones cuando empezamos a recurrir a la IA para resolver cuestiones personales?
- No sé qué es causa y qué es consecuencia. No sé si son tecnologías que vienen a acompañar un cambio en la sociedad o vienen a producir el cambio, pero hay un poco de las dos cosas. Hay una tendencia a pasar cada vez más horas frente a una pantalla. Cada vez más vemos gente que le pregunta al chatbot cómo dejar a su novia, cómo escribir un mensaje para conquistar a alguien o que lo utiliza para hacer terapia. Es más fácil tener 15 minutos para hablar con una máquina y encontrar algún tipo de consuelo.
- ¿Qué ocurre cuando nos acostumbramos a una máquina que responde de inmediato y tiende a darnos la razón?
- Con el chatbot la comunicación es más complaciente. Siempre te va a dar la razón. No hay nadie que te desafíe o te haga pensar un poco más. Por eso vamos perdiendo capacidades cognitivas y el pensamiento crítico, que también es un músculo. En el diálogo humano estamos pensando mientras hablamos; vamos armando un sentido, una construcción de sentido colectivo. Con el chatbot no hay una construcción de sentido colectivo.
- ¿Hasta qué punto mantenemos nuestra autonomía si delegamos decisiones a la IA?
Es una gran pregunta. Hay una tendencia del humano a creer lo que dice la máquina. Es muy difícil que ponga en duda lo que dice. El ser humano toma decisiones en contextos y relaciones de poder específicas. No es tan fácil tomar una decisión totalmente libre. Si cada vez vamos delegando más capacidades cognitivas y más decisiones a la máquina, vamos también delegando un poco de nuestra libertad. Las respuestas de estos chatbots no son neutrales ni objetivas, pero se presentan de esa manera.
“Los estudios todavía no muestran una explosión en la productividad. Ahora, si hay un aumento significativo de la productividad, la pregunta es quién se está quedando con esa ganancia”.
- Se habla mucho de que la IA reemplazará trabajadores ¿Qué tan real es esa amenaza?
- Primero es importante aclarar que la IA no reemplaza a trabajadores, lo que puede hacer es automatizar algunas tareas. Pero es verdad que a las empresas se les vende que pueden prescindir de ciertos puestos de trabajo y reemplazarlos con IA. Pero entiendo que para las empresas sea atractivo. Es más fácil lidiar con una máquina que con trabajadores que piden aumentos de sueldo. Los trabajadores tenemos que entender que la responsabilidad de mantener esos puestos de trabajo es de las empresas y de los gobiernos.
- ¿Y hacer las tareas más rápido significa que vamos a trabajar menos?
- La verdad es que los estudios todavía no muestran una explosión en la productividad. Ahora, si hay un aumento significativo de la productividad, la pregunta es quién se está quedando con esa ganancia. Estamos trabajando más y nunca tenemos la posibilidad de desconectarnos. Por ejemplo, a ustedes los periodistas les dicen que ahora con estas herramientas pueden hacer las notas mucho más rápido. Pero no es que antes hacían una nota por día y ahora la hacen en 10 minutos y descansan el resto del día. No, ahora les dicen que tienen tiempo para hacer cinco notas por día. Está esta fantasía de que, como todo se hace más fácil y más rápido, entonces podemos trabajar más.
- ¿Quiénes son las personas que trabajan entrenando estos sistemas y en qué condiciones lo hacen?
- Hay una población enorme de personas haciendo lo que denominamos trabajo de datos. Son tareas que sostienen estas tecnologías de automatización. Sin datos no hay inteligencia artificial. En muchos casos son personas que trabajan a través de plataformas, donde se les paga por tarea y no tienen ninguna protección. Lo que vemos es una invisibilización intencional de estas personas, porque tiene que ver con mantener la idea de que la IA es totalmente autónoma, que es súper inteligente. Entonces estas personas se mantienen ocultas. No es bueno para el marketing. No se les da el reconocimiento que merecen y se las trata como descartables.
- Si hay personas detrás de estas respuestas, ¿cuánto influyen sus propios criterios?
- Las instrucciones que dan las empresas son totalmente restrictivas. Estas personas no pueden pensar, no porque no tengan la capacidad, sino porque no las dejan pensar por sí mismas. Les dan opciones A, B o C, entonces no hay mucho espacio. Lo que encontré fue una imposición total desde arriba, desde las empresas hacia estas personas, y esa misma imposición se traduce al usuario. Si estás usando estos chatbots, también te afecta. La dependencia produce obediencia y esa obediencia se traduce en los parámetros que van a tener estas máquinas frente al usuario.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Inteligencia Artificial
{{/if}}
