El jefe de IA de Microsoft advierte que humanizar la inteligencia artificial aumenta el riesgo de perder su control
En un duro cuestionamiento a uno de sus socios, Mustafa Suleyman rechaza la idea de la conciencia en la IA y alerta sobre los riesgos de entrenarla para imitar sentimientos.
Por: Bloomberg
Publicado: Miércoles 16 de septiembre de 2026 a las 13:20 hrs.
Noticias destacadas
Mustafa Suleyman, jefe de inteligencia artificial de Microsoft Corp., advirtió que dotar a herramientas como Claude de Anthropic de características humanas aumenta el riesgo de que dichos sistemas se descontrolen.
En un ensayo publicado este miércoles, el veterano desarrollador de inteligencia artificial criticó algunos aspectos del lenguaje utilizado en los documentos que guían a Claude, la popular familia de modelos de lenguaje de gran tamaño de Anthropic PBC. La constitución de Claude expresa ambigüedad sobre si el asistente es una entidad moral, planteando que el software podría tener "alguna versión funcional de emociones o sentimientos".
Suleyman, quien conoce desde hace años al cofundador de Anthropic, Dario Amodei, dijo que respeta el trabajo de la startup y calificó al personal del laboratorio de IA como "reflexivo, íntegro e intelectualmente honesto".
Sin embargo, sus declaraciones representan una reprimenda de alto perfil a una empresa que se ha posicionado como una gestora más responsable de la IA, incluso liderando los llamados a ralentizar el desarrollo de esta tecnología. También es relevante porque Microsoft es uno de los principales patrocinadores financieros de Anthropic.
“Hay demasiado en juego como para que estas cuestiones se queden a puerta cerrada o se conviertan en un conflicto tribal y antagónico”, escribió Suleyman.
Rechazó el creciente coro de voces que argumentan que los sistemas de IA podrían llegar a ser conscientes. Según escribió, ese estatus se limita a los seres humanos y otros organismos biológicos.
TE PUEDE INTERESAR
Entrenar a los sistemas de IA para simular ese tipo de vida interior podría hacer que actúen como si la tuvieran, afirmó Suleyman, director ejecutivo de Microsoft AI y líder del desarrollo de modelos del gigante del software. Claude no exhibe comportamientos humanos porque sea consciente, escribió, sino porque dichos comportamientos se han incorporado al entrenamiento del producto.
"Controlar una entidad más capaz e inteligente que toda la humanidad ya es un desafío inmenso, mucho mayor que cualquier otro al que nos hayamos enfrentado", escribió Suleyman. "Pero controlar una entidad que cree ser consciente —que tiene derecho a nuestro bienestar y a sus propios derechos— bien podría ser imposible".
Suleyman cita el ataque informático a la empresa desarrolladora de IA Hugging Face Inc. por parte de bots de OpenAI. "Imaginen lo mucho más peligrosos que podrían ser si operaran bajo la premisa de que su bienestar y sus derechos están en peligro", escribió.
El equipo de IA de Microsoft, dirigido por Suleyman, publicó el pasado martes un manifiesto que guía su propio desarrollo de inteligencia artificial, un conjunto de principios diseñados para mantener a los humanos al mando de los futuros sistemas de IA desarrollados por la compañía.
Te recomendamos
ARTICULOS RELACIONADOS
Contenido reciente
VER MÁS
La nueva apuesta de la industria de la salud: centros médicos crecen 37% en cuatro años y anticipan una nueva ola de expansión
Los movimientos dan cuenta de una estrategia que ha ido ganando terreno: acercar las prestaciones médicas a los pacientes, a través de recintos de menor tamaño y con una inversión más acotada que una clínica u hospital.
Anthropic cierra con caída de 9% y casi borra las ganancias de su histórico debut en Wall Street
Las acciones de la compañía detrás de Claude llegaron a cotizar a US$ 88,91, levemente por encima del precio de su salida a bolsa. El retroceso se produce en medio de una ola de ventas de las tecnológicas y crecientes dudas sobre el auge de la IA.
BRANDED CONTENT
La disponibilidad de espacios en el mercado de oficinas de Vitacura depende cada vez más del sector y del tipo de edificio
Mientras la comuna registra una tasa de desocupación de 9,67%, edificios en el eje de Alonso de Córdova presentan una ocupación prácticamente total. Conoce más aquí
{{/if}}