先管起来:算法推荐与深度合成
生成式母法出台前,网信办已经用算法推荐规定和深度合成规定,把推荐系统和换脸换声先管了起来。
2022 年春天,公众还没有大规模使用对话式生成式服务。监管先碰到的是另一类产品:信息流里的推荐算法,以及已经能换脸、换声的深度合成。这两份部门规章,是后面生成式办法的前两道闸。
先给答案
- 《互联网信息服务算法推荐管理规定》(国家互联网信息办公室等四部门令第 9 号),2022 年 3 月 1 日施行。要点:算法备案、安全评估、用户可以关闭个性化推荐。
- 《互联网信息服务深度合成管理规定》(三部门令第 12 号),2023 年 1 月 10 日施行。要点:换脸、换声等深度合成服务要有显著标识。
读生成式暂行办法时,不要以为 2023 年 8 月才「突然有监管」。推荐系统和合成内容在那之前已经单独成文。
算法推荐规定管什么
令第 9 号的对象是算法推荐服务,不是大模型本身。信息流、搜索排序、个性化展示,只要用推荐算法向公众提供互联网信息服务,就落在这道闸里。企业要做的三件事在全文里写得很硬:向网信部门备案、按要求做安全评估、给用户关闭个性化推荐的入口。
它解决的是「你为什么看见这条内容」,不是「模型根据提示写出一段新文字」。后者要等到令第 15 号。
深度合成规定管什么
令第 12 号把「生成或编辑图像、音频、视频、虚拟场景」里具有误导风险的一类单独拿出来,尤其是换脸、换声。施行日期紧挨着 ChatGPT 出圈后的第一个月。它对后续标识办法和强制国家标准是预告:合成内容必须让人看得出来。
2025 年的标识办法和 GB 45438 把「看得见」写成更细的技术要求,见第 04 篇。深度合成规定并没有被废止,标识规则是叠加,不是替换。
和生成式办法的关系
顺序是:推荐算法(2022-03)→ 深度合成(2023-01)→ 生成式服务(2023-08)。前两份管「推荐」和「合成外观」,第三份管「面向公众的生成式服务」:训练语料、生成内容真实、备案。三条线会打在同一家产品上——例如一个能写文案、能配图、还能按兴趣推送的应用。
发展纪把 2023 年写成备案元年,见中国回应。本篇只核对两份令的文号与施行日。
今天还能核对什么
- 令第 9 号、令第 12 号:国家网信办官网全文页。
- 施行日期写在令的正文末条,不要用新闻稿代替令文。
延伸阅读
- 上一篇:底稿还在
- 下一篇:生成式母法:暂行办法令第 15 号