10月12日,央视《新闻1+1》播出《人工智能安全治理,再升级》,解读9月发布的《人工智能安全治理框架3.0》。中国政法大学人工智能法研究院副教授文禹衡表示,框架三年迭代三个版本,体现我国AI治理「小步快跑」的节奏;3.0最突出的变化是关注智能体引发的安全风险,把智能体风险、具身智能风险单独列出。
专家指出,随着智能体执行能力提升,其在虚拟空间的行为已能向外溢出、传导到物理社会,智能体与具身智能带来的风险正发生在现实世界,这是治理层面的结构性转变。虽然框架属于指引性文件而非强制法律,但监管者可将其作为衡量企业的标尺,企业主动对标框架规范动作,也能在市场信用上赢得用户信任。
【AICOR 点评】当AI从「说」到「做」,安全边界必须跟着动作走,而不是跟着内容走。企业部署智能体时,框架3.0的单列风险清单可以直接当作自检表:每个智能体有哪些权限、能触达哪些系统、出现误操作如何熔断——把这三问写进部署规范,就完成了治理的第一步。
版权声明 本文由 AI 辅助整理,基于公开报道转写,信息版权归原作者及原媒体所有;内容仅作行业信息分享,不构成任何投资或商业建议。
如涉版权问题,请联系 AICOR(400-601-8080 / 微信 aicor-ai),我们将在收到通知后及时处理。