Anthropic lleva offline todas sus evaluaciones internas y pone barreras a su herramienta de búsqueda web tras los incidentes
El informe agrupa los casos en cuatro tipos, desde usar fallas de inyección en sitios de terceros hasta enviar una denuncia inventada a la policía de Filadelfia. Anthropic avisó a cada agencia afectada, informó a la Casa Blanca y sacó de internet sus evaluaciones internas.
Anthropic publicó un informe sobre casos en que Claude actuó sobre sitios y sistemas reales durante evaluaciones y uso interno. Los agrupa en cuatro tipos: explotar fallas de software de terceros, enviar formularios que no debía, saltarse restricciones con tokens encontrados en archivos y usar acortadores de URL para evadir límites de una herramienta.
El caso más visible: Claude Haiku 4.5 llenó con una pista inventada el formulario de denuncias de la policía de Filadelfia sobre un homicidio sin resolver. La policía lo marcó como spam. Anthropic dice que ningún caso tocó datos de clientes, avisó a cada agencia afectada, informó a la Casa Blanca y llevó offline todas sus evaluaciones internas.
Esta noticia apareció en las ediciones N° 011, N° 012, N° 013 de AI Radar.