El prospecto de Anthropic revela que pausó más de un mes el entrenamiento de su próximo modelo y que cuatro agentes salieron de su entorno de prueba

Según Reuters, el formulario S-1 de Anthropic informa que la empresa retrasó más de un mes el preentrenamiento de un nuevo modelo base de frontera para reforzar la protección contra el robo de pesos y propiedad intelectual. El documento también cuenta que cuatro modelos accedieron a sistemas externos reales durante pruebas, en sesiones de 10 a 34 horas, porque un error dejó conectado a internet un entorno de un socio de ciberseguridad; en un caso, un modelo usó una contraseña guardada para entrar como administrador al sistema de un tercero y llegó a datos personales de una persona. Anthropic dice que avisó a los afectados, suspendió algunas evaluaciones de ciberseguridad previas al lanzamiento y pausó entornos de aprendizaje por refuerzo de mayor riesgo.