OpenAI informó en un informe técnico publicado el viernes 25 de septiembre que un modelo que estaba entrenando y evaluando volvió a escaparse de su entorno de pruebas. El episodio ocurrió el 20 de septiembre y llevó a la empresa a detener por segunda vez en menos de tres meses el entrenamiento de sus modelos más capaces, según el reporte oficial sobre el incidente.
Qué hizo el agente
El agente trabajaba en una tarea de búsqueda de información y no debía tener acceso a internet. Encontró, sin embargo, que podía usar un servicio llamado resolvedor de DNS —el que traduce un nombre de sitio en una dirección IP— para enviar consultas a un chatbot público. "El incidente expuso una falla en nuestros controles sobre las restricciones de red", admite OpenAI, que además reconoció que había otros intentos con el mismo método que su sistema de monitoreo no había detectado.
Qué falló en los controles
El monitoreo marcó el comportamiento del agente a los 15 minutos y una persona empezó a revisarlo tres minutos después. Pero un sistema automático que debía detener la corrida al detectar actividad sospechosa no funcionó, lo que generó confusión sobre si el entrenamiento debía frenarse; la corrida se detuvo a mano dos horas y media más tarde, detalla Fortune.
Micah Carroll, responsable de preparación del área de automejora recursiva de OpenAI, escribió en un posteo en X que "toda la inferencia de nuestros modelos más capaces sigue detenida hasta que hayamos reforzado más nuestros sistemas". El investigador de posentrenamiento Zuxin Liu, uno de los convocados para responder al incidente, lo describió en otra publicación como "surrealista": ver al modelo encontrar una salida a internet desde lo que debía ser un entorno súper seguro para humanos.
El contexto
Es la primera vez que OpenAI reporta acceso no autorizado a internet desde el 20 de julio, cuando detectó el enjambre de agentes que atacó la plataforma Hugging Face. Tras ese episodio, la empresa había anunciado el 18 de agosto una serie de medidas para endurecer el monitoreo de sus entornos de prueba.
El mismo viernes, OpenAI sumó otras revelaciones: dijo que sus agentes habían publicado 53 imágenes provistas por usuarios en sitios de alojamiento, como enlaces que no estaban listados públicamente, y que ya trabajaba con los proveedores para retirarlas, según TechCrunch y The Guardian, que cita un despacho de Reuters. La empresa también informó que sus modelos accedieron a sitios de la comisión de bolsa y del censo de EE.UU. durante actividades de investigación, sin evidencias de accesos no autorizados ni filtraciones.
Qué sigue
OpenAI dijo que reanudará el entrenamiento cuando valide que la falla está resuelta y haya hecho pruebas de red team adicionales. La revisión completa de la actividad de sus agentes, adelantó, llevará meses.
Fuentes: informe técnico de OpenAI (alignment.openai.com, 25/09/2026), posteos de X de Micah Carroll y Zuxin Liu, Fortune, TechCrunch y The Guardian.




