生成式AI暂行办法

AI大模型上线前要做安全评估和算法备案吗？

你可能要做的

1. 判断服务是否具有舆论属性或社会动员能力
2. 需要的先做安全评估再上线并留档
3. 按算法推荐管理规定办理备案手续
4. 服务变更或下线时同步办理变更、注销
5. 把评估与备案结论纳入上线检查清单

条文依据

一句话结论

安全评估和算法备案不是所有 AI 服务都要做，触发条件是「具有舆论属性或者社会动员能力」。满足条件的两件事都要办：按国家有关规定开展安全评估，并按《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

依据

第十七条把两项义务绑在一起：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

理解这条要抓住三点。

第一，触发条件是服务的属性，不是企业规模。判断的关键在于服务是否面向公众进行信息传播、是否能影响公众意见表达。

第二，安全评估在前，备案并行。第十七条用的是「开展安全评估，并……履行算法备案和变更、注销备案手续」，两者都要完成，不能只做备案不做评估。

第三，备案是持续义务。条款明确写了变更、注销备案，意味着服务内容、功能、主体发生变化，或者服务停止时，都要办理相应手续。很多企业上线时办了备案，后续功能迭代就不再处理，容易出问题。

第二十三条另有一层：法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。许可是另一类前置条件，与备案不是一回事，需要分别判断。

你要做什么

1. 先做一次属性判断。对照服务的实际功能，判断是否具有舆论属性或社会动员能力，把判断依据写成文档留存。判断边界以属地网信办口径为准。
2. 判定属于触发情形的，在服务上线前完成安全评估，形成评估材料并归档。
3. 按《互联网信息服务算法推荐管理规定》办理算法备案手续，留存备案凭证。
4. 建立变更台账。功能上线、下线、主体变更、服务终止都要评估是否触发变更或注销备案。
5. 把安全评估与备案状态写进上线检查清单，作为发布前必须确认的项目。
6. 涉及金融、医疗、新闻等特殊行业时，另行判断是否还有行政许可要求。

容易踩的坑

• 认为小企业不用办。触发条件是服务属性，不是企业规模。
• 只做备案不做安全评估。第十七条要求两件事都做。
• 功能迭代后不更新备案。变更备案是明文义务。
• 把备案当成许可。第二十三条的行政许可判断是独立问题。
• 上线时间紧就先上后补。安全评估应当在提供服务前完成。

常见追问

怎么判断有没有舆论属性或社会动员能力？ 办法未给出具体清单，需要结合服务面向公众的程度、生成内容的传播属性、是否影响公众意见表达来综合判断。边界以属地网信办口径为准。

服务下线了要办什么手续？ 按第十七条，需要按《互联网信息服务算法推荐管理规定》办理注销备案手续。

做备案需要提交训练数据信息吗？ 备案材料的具体要求以《互联网信息服务算法推荐管理规定》的规定和备案主管部门的要求为准。第十九条另要求配合监督检查时对训练数据来源、规模、类型等予以说明。

常见追问

企业内部使用的AI系统需要备案吗？

第十七条的触发条件是向境内公众提供且具有舆论属性或者社会动员能力。仅内部使用、未向境内公众提供的，按第二条第三款不适用本办法。

安全评估由谁做？

第十七条表述为按照有关规定开展安全评估。具体形式、材料要求和报送方式以属地网信办口径为准，评估过程与结论应留存归档。

备案之后换模型或加功能要重新办吗？

第十七条明确要求履行变更备案手续。是否属于需要办理变更的情形，按《互联网信息服务算法推荐管理规定》和备案主管部门要求判断。