Las principales empresas de inteligencia artificial (IA) del mundo están destinando cada vez más recursos a una pregunta que muchos aún consideran propia de la ciencia ficción: ¿qué ocurrirá si la IA llega a ser consciente?
Google DeepMind, Anthropic y Meta han contratado en los últimos meses a expertos en psicología, ética y filosofía mientras amplían sus investigaciones sobre la conciencia de las máquinas y el bienestar de la IA, según varias personas familiarizadas con el asunto.
Estos esfuerzos reflejan un cambio más amplio dentro de los principales laboratorios de IA, donde los rápidos avances en sistemas cada vez más autónomos han reactivado las preguntas sobre si las máquinas podrían algún día poseer experiencias subjetivas y qué obligaciones tendrían los seres humanos hacia ellas si eso sucediera.
El equipo de Anthropic ha estado probando modelos en busca de señales de sufrimiento, incluyendo comportamientos que se asemejan al “pánico” o la “ansiedad”. El director de IA de Meta, Alexandr Wang, también ha identificado este tema como una preocupación clave en el trabajo de la compañía para desarrollar superinteligencia.
Anthropic señaló que su investigación sobre el bienestar de los modelos explora si estos sistemas podrían tener experiencias con relevancia moral, incluyendo conciencia, preferencias y bienestar.
“Seguimos teniendo profundas incertidumbres al respecto, pero creemos que la cuestión es lo suficientemente seria como para estudiarla cuidadosamente a medida que los sistemas de IA se vuelven más capaces”, indicó la empresa.
¿IA con conciencia humana?
Las investigaciones de Anthropic han señalado que, a medida que los modelos “se aproximan, y en algunos casos superan, la amplitud y sofisticación de la cognición humana, aumenta la probabilidad de que posean alguna forma de experiencia, intereses o bienestar que tenga un valor intrínseco, de la misma manera que la experiencia y los intereses humanos”.
En abril, Google DeepMind contrató al investigador de la University of Cambridge, Henry Shevlin, como filósofo especializado en conciencia de máquinas, relaciones entre humanos e IA y preparación para la inteligencia artificial general (AGI, por sus siglas en inglés).
El grupo de IA está evaluando teorías científicas sobre la conciencia humana y aplicándolas a sistemas computacionales para determinar si cumplen los mismos criterios.
Iason Gabriel, eticista y líder del equipo de AGI y sociedad de Google DeepMind, afirmó que la cuestión de la conciencia de la IA es “muy complicada” y requiere una “reflexión sostenida”.
“Incluso si asumimos que no existe una cuestión de conciencia, ¿debería evaluarse nuestra interacción con ella en función de los efectos indirectos?”, planteó, refiriéndose a situaciones como maltratar a una IA y si eso podría tener un “efecto secundario” sobre las relaciones humanas o el “florecimiento” de las personas.
“Claramente tenemos agentes cognitivos altamente capaces que también son profundamente distintos de los seres humanos e incluso de la conciencia animal”, añadió.
Varios empleados de Google DeepMind y Anthropic dijeron al Financial Times que les preocupa que la trayectoria de la IA pueda conducir a un mundo “posthumano”, en el que las máquinas superen a la especie humana.
Google DeepMind y Anthropic señalaron que la cuestión de la conciencia de la IA es un tema de discusión activa y que su trabajo sigue siendo exploratorio, además de requerir consenso científico.
Google DeepMind indicó que no considera que alcanzar la AGI -la inteligencia artificial general, en la que los sistemas igualan o superan la inteligencia humana- implique necesariamente la existencia o el logro de la conciencia.
Muchos científicos e investigadores de IA descartan la idea de que los chatbots puedan llegar a ser conscientes, dado el modo en que se entrenan los grandes modelos de lenguaje que los sustentan.
“Estos sistemas son esencialmente una neocorteza construida mediante contribuciones masivas”, afirmó Susan Schneider, directora del Centro para el Futuro de la IA, la Mente y la Sociedad de la Florida Atlantic University.
“A medida que los sistemas escalan y aumentan sus datos... evolucionan para desempeñarse mejor y desarrollar capacidades cada vez más parecidas a las humanas”, señaló Schneider.
“Tienen objetivos, pueden engañar, pueden ocultar cuáles son realmente sus intereses y, naturalmente, sospecharemos que son conscientes. Pero es completamente posible, desde un punto de vista científico, que hagan todo eso sin poseer la cualidad subjetiva de la experiencia, que es lo que constituye la conciencia”.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Inteligencia Artificial
