备案实操

上线AI客服或智能问答，需要先做安全评估吗？

你可能要做的

1. 判断AI客服是否面向公众提供生成式AI服务
2. 具备触发条件的先按国家有关规定开展安全评估
3. 安全评估后再办理算法备案及变更、注销手续
4. 落实第七条的管理制度和技术措施并配备人员

条文依据

一句话结论

安全评估的前提仍是「具有舆论属性或者社会动员能力」。具备这一条件的AI客服、智能问答，应当先按国家有关规定开展安全评估，再按《互联网信息服务算法推荐管理规定》履行算法备案及变更、注销手续；同时还要落实算法安全主体责任。

依据

生成式人工智能服务管理暂行办法第十七条：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

算法推荐规定第二十七条：具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。两条规章对安全评估的要求一致，触发条件表述也一致。

算法推荐规定第七条则给出安全评估之外的配套义务：算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。对AI客服这种直接面向消费者的场景，其中的数据安全和个人信息保护、反电信网络诈骗两项尤其需要落到系统能力上。

需要说明的是：条文写的是「按照国家有关规定开展安全评估」，没有给出评估模板、评分表或提交格式。来源文件中也没有任何申报网址或办理时限以外的流程描述，凡涉及具体办理路径的问题，一律以属地网信办口径为准。

你要做什么

• 先给AI客服定场景：是面向公众提供生成式AI服务，还是仅内部使用。
• 判断是否具有舆论属性或者社会动员能力，形成书面结论并留档。
• 具备条件的，按国家有关规定开展安全评估，形成评估结论。
• 安全评估通过后再推进备案，材料中的算法自评估报告与评估结论保持一致。
• 同步落实第七条要求的管理制度：用户注册、信息发布审核、数据安全与个人信息保护、反电信网络诈骗、安全事件应急处置。
• 上线后建立监测与复评机制，模型换代后重新评估。

容易踩的坑

把「AI客服只回答售后问题」当成不具备舆论属性的充分理由。跳过安全评估直接备案，导致材料无法支撑。把安全评估做成一份纯文字说明，没有任何测试或核验记录。上线后又把知识库接了新的公开数据源，却不触发复评。忽略第七条里的反电信网络诈骗要求，而AI客服恰恰常被用于仿冒与诈骗诱导场景。

常见追问

安全评估由谁组织、结果交给谁，来源文件只写到「按照国家有关规定开展安全评估」，具体口径以属地网信办为准。

常见追问

内部员工用的知识问答也要评估吗？

第十七条的触发条件是面向公众提供具有舆论属性或者社会动员能力的生成式AI服务。不向公众提供服务的场景是否适用需要判断，以属地网信办口径为准。

评估要在上线前完成吗？

条文把安全评估与备案手续绑定在「提供……服务」这一时点上，实务上应在对外提供服务前完成，具体时点安排建议与属地网信部门确认。