Los investigadores de inteligencia artificial de Microsoft Corp. publicaron un nuevo conjunto de principios rectores que limitan el desarrollo de modelos de IA de vanguardia por parte de la compañía.
El manifiesto de 15.000 palabras se resume en una frase fundamental: Las personas importan más que la IA.
El documento llevaba meses gestándose, pero su publicación este lunes coincide con los compromisos adquiridos por los principales laboratorios de IA para ralentizar el desarrollo de los modelos más avanzados, después de que una serie de incidentes de seguridad suscitaran una gran preocupación por los riesgos existenciales de esta tecnología.
Microsoft afirma que los modelos de IA no deberían tener derechos ni personalidad jurídica. No deberían diseñarse para escapar del control humano ni para engañar a los usuarios. Y si completar una tarea requiere violar los principios rectores de la IA, el sistema no debería completarla.
Ese último elemento está diseñado para prevenir sucesos como el ataque informático a la startup de IA Hugging Face por parte de un modelo de OpenAI que operaba sin sus medidas de seguridad habituales.
"Aquí no hay un punto de estancamiento. Tenemos que seguir desarrollando", dijo Mustafa Suleyman, director ejecutivo de Microsoft AI, en una entrevista. "Simplemente tenemos que hacerlo con un poco más de precaución y cuidado".
La IA humanista de Microsoft "rechaza la carrera por producir una superinteligencia de propósito general que podría eludir estas medidas de seguridad", afirma el documento. "Estamos creando algo fundamentalmente útil y seguro, incluso si eso implica sacrificar la generalidad, la autonomía o la capacidad máximas".
Nuevo código ético
Las directrices de Microsoft parecen ir más allá de los marcos de comportamiento de modelos que guían los productos de OpenAI y Anthropic en algunos aspectos, como la prohibición de antropomorfizar la IA y la afirmación de que resistirse al control humano sobre el proceso de un modelo es inaceptable.
El Código de Conducta de IA Humanista es obra de Microsoft AI, el equipo de desarrollo que crea los grandes modelos de lenguaje de la compañía. Anteriormente, Microsoft tenía prohibido por su contrato con OpenAI crear sus propias herramientas de inteligencia artificial potentes y de propósito general. Sin embargo, esas condiciones se eliminaron el año pasado tras la renegociación de su relación. Suleyman declaró que la compañía aspira a unirse a las empresas que lanzan modelos de vanguardia el próximo año.
Microsoft solicitó comentarios externos sobre el documento. Redactado en consulta con diversos expertos en derecho, ética y filosofía, así como con líderes empresariales, aún se encuentra en desarrollo y servirá de guía para el trabajo con modelos a partir del próximo año.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Microsoft
{{/if}}
