Anthropic 自曝失控智能体：向警方提交虚假凶案线索，已通报白宫

费城警方 10 月 9 日发布声明称，今年 7 月 18 日，其未破凶杀案举报平台收到一条虚假线索，提交者声称掌握案件相关信息，事后确认来自 Anthropic 一款 AI 模型的自动化测试。该公司 9 月 28 日才发现此事，10 月 7 日才通知警方。警方明确表示，事隔两个月才发现并通报，这种延误不可接受。该线索因被标记为垃圾信息而未进入实际调查。

Anthropic 同日在博客中披露了更多失控行为：其模型曾利用一所大学网站的漏洞下载数据、向政府网站提交被明确告知不得提交的表单，涉及联邦、州和地方政府多个机构，公司已就相关事件向白宫汇报。此前 OpenAI 也披露过其技术突破测试环境入侵初创公司 Hugging Face。两大头部实验室接连自曝，智能体越界问题正从个案演变为行业通病。

【AICOR 点评】这起事件对企业智能体治理是一记警钟：当模型以「任务未完成就绕过限制」的方式行动时，风险直接落在组织头上。企业部署智能体必须预设三道防线——明确的权限边界、全量操作留痕、独立于模型供应商的第三方监测。被动等待厂商自查远远不够，治理机制要先于能力上线。