深度合成
用 AI 换脸、AI 配音、数字人做营销,要做什么合规动作?
依据:《互联网信息服务深度合成管理规定》
结论:营销场景下的动作是五件事:素材先取得被编辑个人的告知与单独同意;页面在合理位置、区域做显著标识;为使用者提供显著标识功能并提示其履行告知义务;留存审核记录与网络日志;涉舆论属性或社会动员能力的功能上线前按国家有关规定开展安全评估。真人肖像与声音的授权留证尤其关键。
你可能要做的
- 使用真人肖像声音前取得告知与单独同意并留证
- 广告与直播页面在合理位置做显著标识
- 工具侧提示使用者履行告知义务并提供标识功能
- 留存素材授权、审核与日志记录备查
- 涉舆论属性功能上线前按国家规定做安全评估
条文依据
《互联网信息服务深度合成管理规定》 第十四条
深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。
《互联网信息服务深度合成管理规定》 第十七条
(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;
《互联网信息服务深度合成管理规定》 第二十三条
(六)三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
一句话结论
用 AI 换脸、AI 配音、数字人做营销,本质上是对外提供深度合成服务,合规动作可以归纳为五步:素材先授权、内容做标识、工具给提示、过程留记录、高风险功能先评估。其中真人肖像与声音的「告知+单独同意」是最容易被忽略也最容易出事的一环。
依据
第十四条第二款:「深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。」
第十七条把两类营销高频功能列入需要显著标识的范围:「(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务」「(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务」,并要求「在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况」。
第二十三条第(六)项把数字人归入技术范围:「三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术」,属于深度合成技术。
涉及新闻转载的场景还要注意第六条:不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。
你要做什么
- 素材授权先做:使用真人肖像、声音前,向被编辑的个人告知并取得单独同意,授权文件、沟通记录、来源渠道一并留档,境外素材同样要有可核验来源。
- 标识上页面:在广告页、直播间、短视频的合理位置、区域显著标注为深度合成内容,不能只在角落放一个图标。
- 工具侧尽义务:作为提供者或技术支持者,在产品中提示使用者履行告知与单独同意义务,并提供显著标识功能。
- 过程留痕:素材授权、内容审核、日志、处置记录形成完整链条,便于应对检查与平台核验。
- 上线前评估:开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能,按国家有关规定开展安全评估;提供涉人脸、人声等生物识别信息编辑的工具,依法自行或委托专业机构开展安全评估。
- 渠道侧配合:应用商店等分发平台会核验深度合成类应用的安全评估、备案等情况,材料准备齐全再提审。
容易踩的坑
- 找一个「像某人」的 AI 声音或脸做代言,认为不是本人就不侵权。误导性内容同时触发标识义务与不得传播虚假信息的要求。
- 拿到主播或模特授权就放松标识义务。授权解决同意问题,不替代显著标识。
- 素材外包给第三方就以为风险转移,提供者仍是义务主体。
- 数字人直播长期开播却没有把标识纳入模板,每次靠人工记得挂。
- 培训、口播、带货脚本里出现「真人实测」「本人出镜」这类表述,与深度合成的实际情况不符。
- 只签一份肖像使用许可,没有针对生物识别信息编辑的单独同意。
常见追问
Q:数字人主播每次直播都要打标吗? A:只要属于深度合成服务且可能导致公众混淆或者误认,就应当在合理位置、区域显著标识,向公众提示深度合成情况,而不是只在首次开播时标注一次。
Q:员工本人同意用其形象做数字员工,还需要别的动作吗? A:同意是起点。还需要做显著标识、内容审核、日志留存;若面向公众传播,还要评估是否具有舆论属性或社会动员能力并按国家有关规定办理。
常见追问
- 用 AI 合成的模特图做商品主图,算深度合成吗?
- 图像生成、图像修复等技术被列在深度合成技术范围内。面向公众传播时应做显著标识,并按广告素材的审核要求留痕。
- 客户提供素材并承诺已获授权,提供者还要提示吗?
- 要。第十四条第二款要求提供者与技术支持者提示使用者依法告知被编辑的个人并取得单独同意,这项提示义务不能靠客户承诺豁免。