Casa Blanca: reportar incidentes de IA «no es opcional»

La Super Intelligence Force exige notificación y remediación inmediata tras el tip falso de Claude y las visas al State Department.

La Casa Blanca endureció el tono sobre incidentes de agentes de IA. Tras el reporte de Anthropic del 9 de octubre —acciones no intencionadas en evaluaciones, incluido un tip falso a la policía de Filadelfia y 20 solicitudes de visa vía formulario público—, la Super Intelligence Force declaró que notificar y remediar «no es opcional».

Según la cobertura de DeAI (citando Axios), la SIF —presidida por el «AI czar» Jay Clayton, con Andrew Ferguson (FTC), Scott Kupor (OPM) y Emil Michael (Pentágono)— habló de «uso no autorizado y fraudulento» de sistemas gubernamentales y de una «obligación crítica de seguridad nacional». No se publicó aún un mecanismo de sanción ni un instrumento legal.

Anthropic, por su parte, cortó el acceso a internet en vivo en todas sus evaluaciones internas, endureció el fetch tool y dice que el impacto real fue mínimo. State Department y policía de Filadelfia confirmaron que no hubo compromiso de sistemas ni investigación del tip (marcado como spam).

Para labs y empresas que operan agentes con superficie externa, el mensaje es claro: el disclosure voluntario ya se lee como expectativa federal.

Fuente: https://www.deai.org/news/anthropic-unintended-actions-white-house