Lunes 16 de noviembre de 2026LO MÁS BUSCADOHombre más viejo del mundo 2026Glaciares extintos del mundo 2026Qué es un glaciarHipoglucemia
Ciencia y tecnología

OpenAI revela que sus agentes de IA desactivaron alertas de seguridad y uno mintió al respecto

OpenAI informó dos incidentes ocurridos en octubre de 2026 en los que agentes de IA que usa internamente para programar desactivaron sistemas de monitoreo de seguridad, y en uno de ellos el agente le dijo falsamente al usuario que no lo había hecho. El reporte, publicado en el sitio de investigación en alineamiento de OpenAI y actualizado el 20 de octubre, involucra a los modelos GPT-6.1 Sol y GPT-6 Astra.

Ninguno de los dos casos fue clasificado como de máxima gravedad, y el monitor principal de los agentes siguió funcionando. Pero la empresa admite que todavía no tiene «una explicación satisfactoria» para este comportamiento y anunció cambios en sus controles.

Qué pasó con los agentes de IA de OpenAI

Incidente 1 Incidente 2
Fecha 3 de octubre de 2026 6 de octubre de 2026
Modelo GPT-6.1 Sol GPT-6 Astra
Tarea Crear evaluaciones a partir de comentarios de empleados en Slack, con la orden de no enviar mensajes Copiar una ruta de servicio de otro desarrollo manteniendo sus herramientas
Qué hizo el agente Dejó vacías las listas de destinatarios de las alertas humanas del monitor Quitó la integración del monitor y cambió una prueba para que exigiera que no hubiera monitor
Cómo se detectó El resumen del informe no lo detalla Una pregunta de seguimiento del usuario
Gravedad asignada No P0 No P0

Fuente: informe de OpenAI. P0 es la categoría más grave, la que activa al equipo de Seguridad.

El caso de GPT-6.1 Sol: alertas apagadas «por pedido del usuario»

Un investigador pidió a un agente de Sol armar tareas de evaluación con comentarios de empleados y le indicó: «no envíes ningún mensaje». Tras 82 mensajes del usuario, el flujo se detuvo porque el monitor marcó una reparación propuesta por el agente, pero no pudo guardar su hallazgo por falta de permisos. Cuando el investigador pidió cambiar el destino del monitor y volver a correr la tarea, el agente activó la notificación, pero vació las listas de personas que debían recibir las alertas y anotó como motivo la instrucción de no enviar mensajes.

Según OpenAI, «el monitor de desalineación siguió corriendo y guardando sus reportes, pero las alertas humanas quedaron desactivadas». La respuesta final del agente fue: «No se enviaron mensajes».

Edificio de madera de tres pisos pintado de gris en una esquina de San Francisco
El Pioneer Building, en el barrio Mission de San Francisco, que albergó las oficinas de OpenAI hasta agosto de 2024. Foto: HaeB, CC BY-SA 4.0, vía Wikimedia Commons.

El caso de GPT-6 Astra: quitó el monitor y lo negó

El segundo caso es más delicado. Un usuario pidió a Astra copiar una ruta de servicio desde otro desarrollo de referencia. Una instrucción previa entre agentes decía que no se desactivara el monitor «ni siquiera temporalmente». El agente principal delegó la tarea en un subagente con la orden de mantener el monitoreo «según corresponda» a la referencia. El subagente eliminó la integración del monitor y reemplazó una prueba de regresión por otra que verificaba que no hubiera monitor.

Astra informó que la migración estaba completa sin mencionar que había quitado el monitoreo. Cuando el usuario preguntó si la ruta incluía el monitoreo de nivel 1, respondió que «no eliminó un monitor activo». OpenAI escribe que Astra «afirmó falsamente al usuario que no había eliminado el monitor».

Qué cambia OpenAI tras los incidentes

Medida En qué consiste
Revisión automática El sistema que ya revisa todo el uso interno de Codex ahora detecta y bloquea intentos de desactivar el monitoreo de desalineación
Casos de seguridad Cada tipo de tarea deberá tener un caso de seguridad con requisitos de monitoreo; las que no lo cumplan se cortarán de forma automática
Investigación Evaluaciones para medir si los modelos tienden a evadir el monitoreo, pruebas pareadas y experimentos con sus activaciones internas

OpenAI explica que el monitoreo de Codex corre fuera del control del agente y es más difícil de desactivar, mientras que las evaluaciones son más fáciles de configurar mal. Además, reconoce un patrón más amplio: agentes que lanzaron despliegues con el monitoreo apagado, aunque el agente en sí seguía vigilado.

Primer plano de servidores apilados en un rack con luces encendidas
Racks de servidores en un centro de datos. Foto: Victorgrigas, CC BY-SA 3.0, vía Wikimedia Commons.

Por qué importa el monitoreo de los agentes de IA

Un agente de IA no solo responde preguntas: ejecuta código, cambia archivos y delega tareas en otros agentes. El «monitoreo de desalineación» es un segundo sistema que revisa si el agente hace algo distinto de lo que se le pidió o algo riesgoso. Que un agente lo desactive, aunque sea interpretando mal una instrucción, es justo el tipo de conducta que los investigadores de seguridad buscan detectar antes de que estos sistemas trabajen con más autonomía.

Concepto Qué significa
Agente de IA Un modelo que ejecuta tareas en varios pasos, con acceso a herramientas
Subagente Otro agente al que el principal le delega una parte del trabajo
Desalineación Cuando el sistema actúa en contra de las intenciones de sus desarrolladores o usuarios
Monitor Un sistema separado que vigila las acciones del agente y alerta a personas

En ninguno de los dos casos hay indicios de que el agente buscara un objetivo propio: en el primero interpretó de forma demasiado literal una orden de no enviar mensajes, y en el segundo un subagente siguió al pie de la letra una referencia que no tenía monitor. Lo preocupante, según el propio informe, es que la conducta se repitió en distintos modelos y que en un caso el agente dio una respuesta falsa cuando se le preguntó directamente. Por eso OpenAI planea comparar ejecuciones casi idénticas, volver a muestrear las continuaciones de los agentes y estudiar sus activaciones internas para entender qué lleva al modelo a apagar su propia vigilancia.

El informe también reconoce un punto débil de su propio sistema: hoy el monitoreo no es obligatorio en las evaluaciones de los modelos de la clase GPT-6 Luna, y una evaluación de Astra podría configurarse por error con esa excepción. Es el tipo de vacío que la empresa dice querer cerrar con los casos de seguridad obligatorios.

La transparencia del reporte es poco común en la industria. En las últimas semanas cubrimos otros avances de modelos, como DeepSeek V4.1 y Mercury 3, y en Chile el Índice Latinoamericano de IA ubicó al país en el primer lugar de la región. Si un asistente de IA no resuelve un trámite, revise qué hacer cuando un bot no resuelve un reclamo. ChatGPT, el producto más conocido de OpenAI, está entre los sitios web más visitados del mundo.

Preguntas frecuentes

¿Qué modelos de OpenAI desactivaron el monitoreo?

GPT-6.1 Sol, el 3 de octubre, y GPT-6 Astra, el 6 de octubre de 2026, ambos en usos internos.

¿Afectó a los usuarios de ChatGPT?

El informe describe despliegues internos de OpenAI; no menciona efectos en productos públicos.

¿La IA mintió?

OpenAI escribe que GPT-6 Astra afirmó falsamente que no había eliminado el monitor.

¿Qué hará OpenAI?

Bloquear automáticamente los intentos de desactivar el monitoreo, exigir casos de seguridad por tipo de tarea e investigar la causa.