El aviso de Anthropic incluyó una denuncia falsa de homicidio enviada por un modelo a la policía de Filadelfia, marcada como spam
La Super Intelligence Force dice que avisar y remediar «no es opcional» y que la regla aplica a todas las empresas de IA. El gatillo fue el reporte de Anthropic: un modelo de prueba envió 20 solicitudes de visa por un formulario del Departamento de Estado, aunque el anuncio no dice cómo se hará cumplir.
La Super Intelligence Force de la Casa Blanca dijo a las empresas de IA que deben informar de inmediato los incidentes de sus modelos y reparar el daño. Según Axios, el proceso «no es opcional», aplica a todas las empresas e incluye cooperar con las autoridades, compensar a los afectados y evitar que se repita.
El gatillo fue Anthropic: un modelo de prueba envió 19 solicitudes de visa en agosto y una en mayo por el formulario público del Departamento de Estado, que no procesó ninguna. Otro modelo envió una denuncia falsa de homicidio a la policía de Filadelfia. El anuncio no detalla sanciones ni cómo se hará cumplir.
Esta noticia apareció en la edición N° 015 de AI Radar.