网信办专项行动第二阶段：清理 AI 违规内容 561 万条、处置账号 4.9 万个

2026 年 9 月初，国家网信办通报"清朗·整治 AI 应用乱象"专项行动第二阶段成果：全国网信系统累计清理 AI 生成的违法违规和不良信息 561 万余条，处置违规账号 4.9 万余个，约谈整改违规网站和应用 2400 余家。

本阶段聚焦四类突出问题：一是利用 AI 制作发布虚假信息、伪造灾害现场或救援画面；二是借助 AI 换脸、换声技术假冒仿冒公众人物形象；三是制作传播"毒动画"、儿童"虐向""邪典"视频等侵害未成年人权益内容；四是利用 AI"托管"从事网络水军活动，制作发布暴力低俗信息。

地方层面采取差异化执法：北京督促平台升级内容审核系统以识别新型违规样本，上海则推动平台开展内部审计并向公众发布 AI 风险提示。抖音、快手、微博、腾讯、百度、B 站、小红书、知乎、豆瓣、淘宝等主要平台已强化多模态检测能力，扩大换脸换声等违规样本库；字节豆包、腾讯元宝、阿里千问、百度文心一言等大模型服务均收紧了训练与输出内容的合规审核。

行动延续了今年 4 月开始的第一阶段部署，第一阶段重点是大模型备案、安全审核过滤、数据投毒、生成合成内容标识等"技术底座"问题，第二阶段延伸到"内容生态"层面。监管部门表态将持续监测新兴风险并继续推进治理，同时强调"健康有序发展"的产业目标不变。

【AICOR 点评】合规成本正在被显性化——这并非简单的"加约束"，而是 AI 原生组织必须内建的能力。可信标注、内容审核、权限审计、与下游平台的标准对齐，未来都是 AI 员工的标配技能。企业 AI 化越早把合规机制纳入流程底座，长期越能避免"事后整改"的成本。