中央网信办深入推进AI应用乱象整治，查处账号4.9万余个

据人民网9月2日报道，中央网信办近期组织开展清朗·整治AI应用乱象专项行动第二阶段工作，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门推进重点整治任务。

截至目前，专项行动累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。各地网信部门结合实际推出针对性治理措施，北京、上海、浙江、广东等地分别围绕平台审核策略升级、自查自纠、一企一策合规指导等开展工作。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台持续优化多模态识别模型与人脸实时治理系统，累计发布治理公告46期。豆包、元宝、千问、文心一言等大模型平台也被要求严把语料审核关，强化AI生成合成内容标识落地。

网信部门还通报了七类典型案例，包括利用AI魔改经典名著、生成虚假不实信息、假冒仿冒他人、发布暴力低俗信息、侵害未成年人权益、利用AI托管从事网络水军活动，以及AI产品服务和应用程序违规等情形。

【AICOR 点评】AI治理已经从原则宣示进入集中整治阶段，企业使用AI的合规成本正在显性化。AICOR认为，对央国企和大型企业而言，AI生成内容标识、语料合规、输出审核不再是可选项，而是必须嵌入产品开发流程的刚性要求。企业越早建立内部AI合规体系，越能在监管趋严中占据主动。