深度合成
什么样的算法才算「深度合成」?自家产品算不算?
依据:《互联网信息服务深度合成管理规定》
结论:看三点:是否用深度学习、虚拟现实等生成合成类算法,产出是否为文本、图像、音频、视频、虚拟场景等网络信息,以及是否在境内用它提供互联网信息服务。规定第二十三条按文本、语音、非语音音频、人脸等生物特征、非生物特征图像、数字人物与虚拟场景六类逐项列举,智能写作、AI 配音、AI 换脸、数字人都在其中。
你可能要做的
- 列出产品内所有生成、编辑、合成类功能
- 逐条对照第二十三条六类技术方式打勾
- 确认自己属于提供者、技术支持者还是使用者
- 把命中的功能登记成合规清单并指定责任人
条文依据
《互联网信息服务深度合成管理规定》 第二十三条
深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术,包括但不限于:
《互联网信息服务深度合成管理规定》 第二十三条
(六)三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
《互联网信息服务深度合成管理规定》 第二条
在中华人民共和国境内应用深度合成技术提供互联网信息服务(以下简称深度合成服务),适用本规定。法律、行政法规另有规定的,依照其规定。
一句话结论
判断一项功能是否属于「深度合成」,看三个要素:是不是用深度学习、虚拟现实等生成合成类算法;产出的是不是文本、图像、音频、视频、虚拟场景等网络信息;是不是在中华人民共和国境内应用它提供互联网信息服务。三个都符合,就适用本规定。
依据
第二十三条给出的定义是:「深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术,包括但不限于」,随后逐项列举六类:
- (一)篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术;
- (二)文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术;
- (三)音乐生成、场景声编辑等生成或者编辑非语音内容的技术;
- (四)人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术;
- (五)图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术;
- (六)三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
同一条还界定了三类角色:深度合成服务提供者(提供深度合成服务的组织、个人)、深度合成服务技术支持者(为深度合成服务提供技术支持的组织、个人)、深度合成服务使用者(使用深度合成服务制作、复制、发布、传播信息的组织、个人)。角色决定义务,先把自己对号入座,再去看对应条款。
你要做什么
- 把产品里所有「生成」「编辑」「合成」入口列成一张表,逐条对照上面六类技术方式,标出命中项。
- 明确自己在链条中的位置。自研模型、以自己名义对外提供服务,通常是提供者;只把模型、模板、SDK 交付给他人使用,通常是技术支持者;两者兼有,两套义务都要审。
- 典型落点:智能客服与智能写作、AI 配音与语音克隆、AI 换脸与美化、数字人直播、文生图与图像修复。
- 把结论写进合规台账,注明命中的条款和负责团队,后续版本迭代时复用。
容易踩的坑
- 以为「只是调用第三方大模型 API」就不算提供者。判断的关键是是否以自己名义对外提供互联网信息服务,而不是模型由谁训练。
- 只盯着最终产物。文本风格转换、语音属性编辑、图像增强这类「编辑」动作同样在列举范围内。
- 忽略地域与场景条件。只有「在中华人民共和国境内应用深度合成技术提供互联网信息服务」才落入本规定;纯内部使用不构成对外提供信息服务,但一旦对外发布就应按对外服务审视,边界情形以属地网信办口径为准。
- 把「深度合成」窄化为换脸换声,漏掉智能对话、智能写作这类文本能力。
常见追问
Q:生成一张插图也算深度合成吗? A:图像生成被明确列在第二十三条第(五)项,属于深度合成技术的范围;是否适用本规定,取决于是否用它对外提供互联网信息服务。
Q:只做企业内部工具要不要管? A:本规定的适用前提是提供互联网信息服务。内部自用、不对外提供信息服务的工具不在其射程内;涉及对外发布、对外提供服务的部分仍需单独评估。
常见追问
- 只要用到 AI 就算深度合成服务吗?
- 不一定。要同时满足「用生成合成类算法制作网络信息」和「在境内应用该技术提供互联网信息服务」两个条件,且要落在第二十三条列举的技术方式内。
- 只提供技术支持、不直接面对用户,也要管吗?
- 要。第二十三条单列了「深度合成服务技术支持者」,第十五条、第十四条、第十九条等多处都直接对其课以义务,例如安全评估与备案。