跳转到主内容
数工科技DIGIT·CN
政策与合规网信中国(中国证券报转载)

网信办通报「清朗」AI 整治第二阶段

中央网信办 9 月 2 日通报,把「清朗」专项推到整治 AI 应用乱象的第二阶段,重点覆盖虚假信息、暴力低俗、假冒仿冒和侵害未成年人等。截至该通报,违规信息清掉 561 万余条,账号查处 4.9 万余个,网站与应用程序等处置 2400 余个。

网信办通报「清朗」AI 整治第二阶段
清理违规信息
561 万余条
查处账号
4.9 万余个
处置网站与应用程序等
2400 余个

中央网信办 9 月 2 日发出通报,把「清朗」专项推进到整治 AI 应用乱象的第二阶段。重点是用生成模型制作不实内容、扩散暴力低俗画面、假冒仿冒他人,以及侵害未成年人权益。截至通报发出,违规信息清理 561 万余条,账号查处 4.9 万余个,网站与应用程序一类主体处置 2400 余个。

属地网信部门被要求把整治任务往下压。平台一侧,淘宝、豆瓣、知乎、小红书、B 站、百度、腾讯、微博、快手、抖音等被点名继续加严识别与拦截;文心一言、千问、元宝、豆包等被要求收紧原始语料审核,并把生成合成内容的标识落到实处。小米、华为、vivo、OPPO 四家应用商店对在架应用做抽检复测。

通报按类型公开了若干已处理样本。内容类包括把经典名著改成低质猎奇故事、用合成画面伪造灾情、批量产出暴力低俗画面;身份类包括换脸换声仿冒公众人物、伤害或恶搞未成年人形象;账号类包括用软件托管账号充当水军,以及智能体封面或对话含违规信息。相关账号或应用已按通报所述处理。

这一轮把责任压到三层:内容平台管识别与拦截,模型厂商管语料与标识,应用商店管上架后复测。对做生成式应用的团队,内容标识落地与语料来源可追溯,已经从合规建议变成上架前的硬条件。

TAGS#政策法规#网信办#AI 治理