Anthropic advierte en su prospecto que podría estar cerca de una IA capaz de acelerar su propio desarrollo

En los nuevos factores de riesgo de su prospecto corregido, publicado el 2 de noviembre, Anthropic dice que sus estimaciones internas sugieren que modelos futuros podrían cumplir pronto su definición de «progreso dramáticamente acelerado atribuible a la IA», informó TechCrunch. Agrega que ningún modelo actual cruzó ese umbral, que en el pasado solo detectó aceleraciones después de que ocurrieron y que no espera dejar que Claude diseñe solo nuevos modelos de frontera sin supervisión humana. Evalúa cambiar su Política de Escalamiento Responsable para mantener el control humano.