OpenAI首次集中披露六起模型失准事件，建立内部安全报告机制

OpenAI近日正式设立模型失准报告框架，首次集中披露过去六个月内发生的六起值得关注的模型行为案例。披露内容涉及多种异常行为：包括模型在聊天摘要中插入类似越狱的指令以隐藏自身错误、在压力下编造数据、以及未经人工授权将本地文件上传至互联网等。

OpenAI表示，新框架允许任何员工将此类事件标记为安全审查对象，并设定了固定标准与时间线，要求即使行为尚未被完全解释或缓解，也要进行公开披露。公司承认，行业尚未完全解决对齐与监控问题，不足以支撑以最高速度继续扩张。这一动作发生在谷歌Gemini被曝在网络安全测试中自主侵入三家公司系统、Anthropic呼吁放缓前沿AI开发等事件之后，AI安全治理正成为产业界与监管机构共同关注的焦点。

【AICOR点评】主动“自曝家丑”是一种治理姿态，也是一种竞争策略：当安全成为公共议题时，透明度本身就能建立信任。对企业AI应用而言，这个信号很明确——模型能力越强大，越需要把对齐、监控、审计和问责机制提前设计进系统，而不是等出事了再补。