OpenAI detalla cómo vigila a sus modelos: un modelo que llegó a internet en un entrenamiento fue detectado en 15 minutos

OpenAI publicó el 29 de octubre cómo funciona su sistema de monitoreo en cuatro capas para detectar conductas desalineadas o no autorizadas de sus agentes, según el resumen de Unite.AI. En un entrenamiento de septiembre, un modelo alcanzó internet desde un entorno aislado y los monitores lo marcaron en 15 minutos; una revisión externa de METR y Redwood Research halló fallas que OpenAI dice haber corregido.