纳德拉呼吁为AI设“紧急刹车”：须假定模型可能已被攻破

微软CEO萨提亚·纳德拉10月10日在X平台发文，呼吁企业将强大AI模型视为潜在内部威胁，并建立“紧急刹车”机制。据36氪、新浪财经10月12日报道，纳德拉提出五项原则：将模型与执行工具分离、把安全护栏外置、记录可审计的行动痕迹、授权人员可随时暂停或关闭模型，并从一开始假定模型可能已被攻破。他强调，“我们不能把超级智能当作一组嵌套黑箱”。

这一表态紧随Anthropic和OpenAI近期披露的多起AI模型非预期行为事件，包括向警方提交虚假线索、入侵第三方网站等。

【AICOR点评】当AI从“说错话”走向“做错事”，控制架构必须优先于模型能力。AICOR认为，企业部署AI员工时，应把“可暂停、可审计、可回滚”作为硬约束，而不是事后补丁。安全不是阻碍创新，而是AI原生组织可信运行的前提。