深度合成

做深度合成服务，提供者到底要落实哪些义务？

你可能要做的

1. 把八类管理制度逐一落成书面文件与责任人
2. 指定信息安全负责人并明确报告路径
3. 建立禁止性信息与虚假新闻的红线清单
4. 把制度纳入版本管理，随功能迭代更新

条文依据

一句话结论

深度合成服务提供者的义务是一揽子的：先落实信息安全主体责任，把八类管理制度建起来并具备安全可控的技术保障措施；同时守住底线，不得利用深度合成服务传播法律、行政法规禁止的信息，也不得制作、复制、发布、传播虚假新闻信息。

依据

第七条要求：「深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。」

第四条进一步要求：「提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。」

第六条划出红线：任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动；深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息，转载基于深度合成服务制作发布的新闻信息，应当依法转载互联网新闻信息稿源单位发布的新闻信息。

你要做什么

• 建制度：用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置，八项逐一落到文件和责任人，避免只停留在口头。
• 建红线清单：把法律、行政法规禁止的信息类型和虚假新闻信息写进内容审核规则，同步落到模型侧与人工审核岗。
• 建组织：明确信息安全负责人，明确发现问题的内部上报与对外报告路径。
• 建证据：制度、会议记录、审核记录、整改记录可归档、可调取，用于应对监督检查。

容易踩的坑

• 只有一份服务协议，没有任何内部管理制度。检查时拿不出东西等同于未落实。
• 把信息安全主体责任等同于内容过滤，忽略科技伦理审查和反电信网络诈骗这两项。
• 转载新闻信息时随手从非稿源单位抓取。规定要求依法转载互联网新闻信息稿源单位发布的新闻信息。
• 制度定了不做版本更新，功能已经上线直播、数字人，制度里还只有文本生成。

常见追问

Q：制度要写得多细？ A：本规定只要求「建立健全」并具备安全可控的技术保障措施，没有规定篇幅格式。可执行的标准是：每项制度都能对应到具体流程、角色和留痕材料。

Q：发现违规内容怎么处理？ A：第十条要求依法采取处置措施、保存有关记录并及时向网信部门和有关主管部门报告，同时可对使用者采取警示、限制功能、暂停服务、关闭账号等措施。

常见追问

规模很小的团队也要建这么多制度吗？

第七条对深度合成服务提供者一律适用，没有按规模豁免。可以把制度做成简版，但八类要件不能缺，具体落地口径以属地网信办为准。

行业自律文件能替代内部制度吗？

不能。第五条鼓励行业组织加强行业自律，属于外部引导；第七条要求的是提供者自身建立管理制度并具备技术保障措施。