中央网信办“清朗·整治AI应用乱象”第二阶段：清理违规信息561万余条

据澎湃新闻10月16日报道，中央网信办日前通报“清朗·整治AI应用乱象”专项行动第二阶段成效：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。

本阶段聚焦利用AI制作虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。其中“毒动画”被重点点名：部分创作者利用AI批量制作掺杂不良内容的短视频，以无害画面伪装片头规避审核，将有害内容藏于视频中段，混入少儿动画难以精准识别。报道认为，面向未成年人的网络内容必须执行更严格的管理标准，未成年人权益位阶高于平台商业利益。此前网信办4月已部署为期4个月的专项行动，6月上线“涉AI应用乱象举报专区”。

【AICOR 点评】561万条的量级说明AI滥用已是产业化问题而非零星事件。对企业有两层合规含义：凡用AI生成对外内容，标识义务与审核责任只会收紧，营销物料与客服话术都应建立内部审核流程；做AIGC产品的团队则应把内容拦截与未成年人保护当作默认设计项。监管常态化后，合规能力本身将成为AIGC产品的准入门槛。