专家热议“人工智能污染”：治理框架初步落地，污染正向模型层渗透

光明日报10月15日刊发关于“人工智能污染”的专家访谈。多位学者指出，当前治理正处于“重点领域初步可控、全域范围持续扩张”的胶着状态：针对显性内容污染的规则正在落地，七部门联合发布的《生成式人工智能服务管理暂行办法》确立了生成内容标识等基础规则，广电总局年初启动“AI魔改”专项治理；但随着开源大模型普及与生成工具轻量化，污染主体正向中小团队与个人扩散，传播场景向私域社群下沉。

专家预判三个演化方向：污染层级将从内容表层向训练数据与算法结构深层升级，如植入带偏差样本干扰模型认知、对齐机制投毒，排查修复成本更高；污染场景将从消费端向工业设计、医疗辅助、政务决策等产业与公共领域延伸；污染手段将从规模化量产转向结合用户画像的精准化认知操纵。数据回流隐患同样值得关注——大量受污染内容重新进入训练语料，可能导致模型丢失稀有信息、出现“模型坍塌”。

【AICOR 点评】企业侧的AI污染风险被普遍低估：内部知识库若混入AI生成的低质内容并被RAG反复检索引用，就是一场小型的“模型坍塌”。建议企业在AI知识运营中建立“人类审校门禁”与内容溯源机制，把数据质量治理当成AI资产的保值手段。