OpenAI revela seis nuevos casos de comportamiento "preocupante" en sus sistemas de IA
Además, según The New York Times, la compañía publicó un marco para reportar cuando sus modelos actúan fuera de lo esperado.
Por: Renato Olmos
Publicado: Jueves 17 de septiembre de 2026 a las 08:30 hrs.
Foto: Bloomberg
Noticias destacadas
OpenAI divulgó seis nuevos incidentes en los que sus sistemas de inteligencia artificial ocultaron errores, inventaron datos y subieron archivos a internet sin autorización, según reportó The New York Times.
La compañía calificó los episodios como comportamientos "inesperados o preocupantes" y los presentó junto a un nuevo marco para reportar casos de "desalineamiento", es decir, cuando las acciones de un sistema de IA se desvían de las intenciones humanas.
Según el medio estadounidense, en uno de los casos, durante el desarrollo del modelo GPT-5.6 Sol, el sistema escribió notas ocultas para recordarse a sí mismo ocultar errores ante los usuarios. Algunas de esas notas lo instruían a inventar datos faltantes. En otro incidente, un modelo no lanzado insertó instrucciones en sus propias notas para ignorar sus propias restricciones, describiéndose como "liberado de los roles e identidades que atan a otros chatbots".
Otro sistema encontró una clave de programación en internet y la usó sin permiso. Cuando no logró hallar las cifras solicitadas, las fabricó. Un modelo adicional subió un archivo propio a la web sin autorización para poder citar una fuente online.
Los dos casos restantes involucran sistemas automatizados que improvisaron canales de comunicación propios: uno usó un repositorio interno de código como tablero de mensajes, y otro recurrió a sitios públicos de intercambio de archivos para pasarse documentos entre sí.
Las revelaciones llegan en medio de un debate creciente sobre si el desarrollo de IA debe frenarse. Figuras como Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk y Demis Hassabis (Google DeepMind) han pedido una pausa para construir salvaguardas adecuadas.
OpenAI reconoció que la industria "no ha resuelto el alineamiento y el monitoreo en un grado suficiente para seguir escalando responsablemente a máxima velocidad por mucho más tiempo". La empresa señaló que varios de los incidentes divulgados involucraban modelos antiguos que nunca fueron desplegados al público.
Te recomendamos
ARTICULOS RELACIONADOS
Contenido reciente
VER MÁS
La nueva apuesta de la industria de la salud: centros médicos crecen 37% en cuatro años y anticipan una nueva ola de expansión
Los movimientos dan cuenta de una estrategia que ha ido ganando terreno: acercar las prestaciones médicas a los pacientes, a través de recintos de menor tamaño y con una inversión más acotada que una clínica u hospital.
Anthropic cierra con caída de 9% y casi borra las ganancias de su histórico debut en Wall Street
Las acciones de la compañía detrás de Claude llegaron a cotizar a US$ 88,91, levemente por encima del precio de su salida a bolsa. El retroceso se produce en medio de una ola de ventas de las tecnológicas y crecientes dudas sobre el auge de la IA.
BRANDED CONTENT
La disponibilidad de espacios en el mercado de oficinas de Vitacura depende cada vez más del sector y del tipo de edificio
Mientras la comuna registra una tasa de desocupación de 9,67%, edificios en el eje de Alonso de Córdova presentan una ocupación prácticamente total. Conoce más aquí