⁠​‌‌​​‌‌‌​‌‌​‌‌‌‌​‌​‌‌‌‌​‌‌​​​​‌​⁠深度合成

深度合成的算法要评估吗？日志要留多久？

你可能要做的

1. 把算法机制机理审核排成周期动作并留档
2. 对涉人脸人声或特殊场景的工具开展安全评估
3. 输入与输出双向审核，特征库明确入库标准
4. 建立日志留存制度，保证可回溯可调取

条文依据

一句话结论

技术管理不是一次性的动作：算法机制机理要定期审核、评估、验证；涉人脸、人声等生物识别信息，或涉国家安全、国家形象等特殊物体、场景的工具，要开展安全评估；内容侧要对输入数据和合成结果双向审核，建立违法和不良信息特征库；网络日志和标识相关日志都要记录留存，做到可回溯。

依据

第十五条：「深度合成服务提供者和技术支持者应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。」并对两类工具要求安全评估：「（一）生成或者编辑人脸、人声等生物识别信息的；（二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。」

第十条：「深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。」

第十六条补充了日志要求：采取技术措施添加不影响用户使用的标识，「并依照法律、行政法规和国家有关规定保存日志信息」。

你要做什么

• 把算法机制机理审核做成周期任务，保留审核、评估、验证的过程记录与结论。
• 自查是否属于必须安全评估的两类工具：涉人脸、人声等生物识别信息编辑；涉可能影响国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景。命中就自行或委托专业机构评估，材料归档。
• 内容审核做双向：输入提示词与素材要审，合成结果也要审，技术手段与人工手段可以组合。
• 特征库要有入库标准、规则、程序，更新有记录，避免只靠一次采购的模型。
• 日志留存写入技术方案：留存范围、存储位置、访问权限、调取流程，明确到责任人。

容易踩的坑

• 只审输出、不审输入，提示词里夹带违规意图时无人拦截。
• 安全评估做一次就归档，模型迭代、模板上新后不再复核。
• 日志存在业务库里被自动清理或被滚动覆盖，需要时拿不出来。
• 规定没有写明天数，就自行编造一个保存期限写进对外文件。天数应以适用的法律、行政法规和国家有关规定为准。
• 把「定期」理解成上线前，上线后长期不做复核。

常见追问

Q：日志要留多久？ A：本规定要求「记录并留存相关网络日志」并「依照法律、行政法规和国家有关规定保存日志信息」，未在本规定中给出具体天数。天数按适用的法律法规和国家有关规定执行，口径以属地网信办为准。

Q：委托外部机构做安全评估，提供者还有责任吗？ A：第十五条允许「自行或者委托专业机构开展安全评估」，但义务主体仍是深度合成服务提供者和技术支持者，评估结论与整改动作需要自行落账。

常见追问

小型团队做不了安全评估怎么办？

可以委托专业机构，也可以在内部按第十五条要求建立可留痕的评估流程，重点是评估对象、方法、结论与整改记录齐备。

特征库必须有吗？

第十条明确要求建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，这是法定义务而非可选项。

本条目属于「中国 AI 合规与备案」集群（共 42 条）：查看全部 · 答案库首页