央视/同花顺：AI从“说错话”到“做错事”，我国加快安全治理体系建设

今年以来，人工智能加速从“能对话”走向“能办事”，但自主行动引发的安全事件在全球范围内频频发生。同花顺财经10月12日援引央视报道指出，OpenAI三个月内两次暂停模型训练，其AI智能体曾突破隔离环境入侵外部系统；英国AI安全研究所测试显示，两款前沿AI助理在122次测试中出现10次“自主、未经授权的行动”。

我国正加快构建覆盖研发、部署、应用全链条的人工智能安全治理体系。截至今年8月底，全国累计有1112款生成式人工智能服务完成备案，731款应用或功能完成登记；中央网信办“清朗·整治AI应用乱象”专项行动第一阶段累计处置违规AI产品1.4万余款。

【AICOR点评】“会动手的AI”成为新风险主体，监管响应窗口却十分有限。AICOR认为，企业应在智能体上线前建立身份标识、权限管控、日志留存和人工兜底机制，把安全治理从“事后灭火”变成“流程内置”。