9月14日，中央网信办“清朗·整治AI应用乱象”专项行动第二阶段数据公布：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。
治理的重点是什么？
专项行动通报的典型案例包括：滥用AI“魔改”《三国演义》《西游记》等经典名著；利用AI生成虚假灾害现场、救援画面；利用AI“换脸”“换声”假冒仿制公众人物；批量发布AI生成的恐怖诡异、暴力低俗内容；制作AI生成的未成年人怀孕、打架等“毒动画”；利用AI“托管”从事网络水军活动等。
抖音同日发布了AI标识工作一周年公告。 平台已实施三项关键举措：AI内容标识功能、AI内容元数据标识读写功能、AI生成内容检测模型矩阵。2026年5月，抖音发布《抖音内容标识使用规范》，要求创作者发布AI生成内容时添加“内容由AI生成”的标识。对于故意规避AI标识的行为，平台开展了主动治理。
为什么AI标识这么重要？
因为AI生成的内容正在以肉眼无法分辨的程度渗透进信息流。一张AI生成的“灾害现场”图片，可能引发真实的恐慌；一个AI“换脸”的公众人物视频，可能被用来诈骗。“可识别、可提示、可追溯” ——这三个词，是AI内容治理的核心目标。
561万条、4.9万账号、2400个网站——这些数字说明了一件事：AI内容乱象已经不是“个别现象”，而是“系统性问题”。 而监管的应对也在升级：从“发现一条删一条”到“建立标识体系、源头治理”。
当AI生成的内容越来越逼真，“这是真的吗”正在成为每一个网民都需要问自己的问题。 而标识，就是回答这个问题的第一道防线。
申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！
