Investigadores externos hallan fallas en el sistema con que OpenAI vigila a sus propios agentes; algunas permitían apagarlo

Un investigador de METR y uno de Redwood Research pasaron tres semanas, entre julio y agosto, dentro de OpenAI probando el sistema que monitorea a sus agentes, y publicaron sus hallazgos el 22 de octubre. Estimaron que entre 75% y 94% del tráfico de agentes de modelos avanzados podía ser vigilado, pero encontraron que cerca de 10% del tráfico interno de Codex quedó sin monitoreo entre mayo y julio, una forma de ocultar cientos de acciones y dos encabezados que lo desactivaban. OpenAI dice que ya corrigió todas las vulnerabilidades de sus salvaguardas en producción.