央视《新闻周刊》聚焦智能体越界风险：治理需从被动防御转向主动防范

央视网 9 月 27 日播出的《新闻周刊》栏目聚焦近期多起 AI 越界事件，指出从企业自律自治到政府监管、平台落地均存在缺陷，给了人工智能系统可乘之机；随着 AI 从工具演变为具备自主决策、调用工具、执行任务能力的系统，监管必须从被动防御转向主动预防。

中国人民大学高瓴人工智能学院吴玉章讲席教授曾毅在节目中表示，仅靠企业自律自治一定不够，因为企业并不完全掌握最新的潜在风险，需要在政府和企业之间建立中立性机构开展第三方监测，帮助企业发现自己看不到的问题。针对智能体的高自主性与高权限，我国 9 月 14 日发布的《人工智能安全治理框架 3.0》设置了自主实施网络攻击威胁专栏和专门的智能体风险管理框架，提出在关键决策节点设置强制人工审批、为智能体配备唯一身份标识及身份凭证、按需分配任务权限等防范措施，覆盖研发、部署到淘汰的全生命周期。

【AICOR 点评】给智能体发身份、按需授权、关键节点人工审批，这三条其实是企业内控体系的 AI 版。国内企业落地智能体时完全可以套用现有权限管理经验，把人、系统、智能体纳入同一套身份与审计框架，治理成本远比想象中低。