字节跳动 Seed 单独设立大模型安全与对齐部门

据第一财经报道，字节跳动 Seed 团队近日发出内部邮件，宣布成立“Seed Model-Alignment & Preparedness”部门，由严林负责，向 Seed 负责人吴永辉汇报；原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。该部门的定位与海外头部实验室普遍设立的前沿模型风险准备机构类似，聚焦模型安全对齐与滥用风险评估。

此前，随着智能体能力增强，模型越权操作、提示注入、失控执行等安全事件频发，多家国内外厂商陆续把安全评估从附属职能升级为独立组织，智能体安全相关的国家标准与行业规范也在加快落地。

【AICOR 点评】把安全与对齐单独设部门、向模型负责人直接汇报，说明头部厂商已把它视为与能力研发同权重的工程职能。对企业用户的启示很直接：采购或自建智能体时，应要求供应商披露安全评估组织与红队机制；自己内部部署 Agent，也要有对应的安全责任人，不能让业务团队既当运动员又当裁判。