中国 AI 合规与备案 · 条文级自查

AI生成合成内容标识 · 10 条

• 哪些内容算「人工智能生成合成内容」？
  按办法第三条，利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，都属于人工智能生成合成内容。标识只有两类：显式标识和隐式标
• 文字和音频的显式标识到底怎么加？
  文本要在起始、末尾或者中间适当位置添加文字提示或通用符号提示，也可以在交互场景界面、文字周边添加显著提示；音频要在起始、末尾或者中间适当位置
• 图片、视频、虚拟场景的显式标识怎么做？
  图片要在适当位置添加显著提示标识；视频要在起始画面和视频播放周边的适当位置添加显著提示，并可以在末尾和中间适当位置再加强提示；呈现虚拟场景的
• 什么是隐式标识？文件元数据要写什么？
  隐式标识是采取技术措施在生成合成内容文件数据中添加、用户不易明显感知到的标识。服务提供者应按《互联网信息服务深度合成管理规定》第十六条要求，
• 短视频平台要对AI内容做哪些核验和提示？
  提供网络信息内容传播服务的平台要分三种情形处理：元数据明确标明为生成合成内容的，在发布内容周边显著提示、明确告知公众属于生成合成内容；未核验
• 应用商店上架时，标识材料要准备什么？
  应用分发平台在上架或上线审核时，应当要求应用服务提供者说明是否提供人工智能生成合成服务；如果提供，分发平台应当核验其生成合成内容标识相关材料
• 自己发的AI内容，用户要不要主动标注？
  要。用网络信息内容传播服务发布生成合成内容的，用户应当主动声明并使用服务提供者提供的标识功能进行标识。如果想拿到不带显式标识的生成合成内容，
• 能去掉AI内容的标识吗？帮人去掉算违法吗？
  不能。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，也不得为他人实施上述行为提供工具或者服务，不得通过不正当标识
• AI内容没打标识，会被怎么处理？
  违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。办法本身没有另设单独的
• 企业用AI做客服和营销文案，要不要打标？
  分两种情况：企业自己对外提供AI生成合成服务（如对外上线的AI客服、AI写作工具），属于办法规范的服务提供者，要按第四、五、八条落实显式标识

算法推荐与备案 · 8 条

• 我们App有推荐流，这部算法推荐规定管得到我们吗？
  管得到。只要在中华人民共和国境内应用算法推荐技术提供互联网信息服务，就适用本规定，与公司规模、是否收费无关。算法推荐技术不止「猜你喜欢」式信
• 算法备案谁要办、什么时候办、办完还要公示吗？
  具有舆论属性或者社会动员能力的算法推荐服务提供者，应当在提供服务之日起十个工作日内履行备案手续；备案信息变更的十个工作日内办理变更，终止服务
• 用户要求关掉算法推荐，我们必须关吗？怎么告知？
  必须。第十六条要求以显著方式告知用户提供算法推荐服务的情况，并公示基本原理、目的意图和主要运行机制。第十七条要求提供不针对个人特征的选项或者
• 用算法给不同用户不同价格，算不算大数据杀熟？
  针对消费者销售商品或者提供服务时，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。也就是
• 推荐算法让用户刷不停，对未成年人有什么特别要求？
  不得设置诱导用户沉迷、过度消费的算法模型；向未成年人提供服务的，要履行未成年人网络保护义务，开发适合未成年人的模式，不得推送可能引发模仿不安
• 算法安全主体责任具体要落哪些制度？安全评估谁要做？
  要落实算法安全主体责任，建立算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安
• 网信部门来检查，我们需要留什么、配合到什么程度？
  主管部门依法开展安全评估和监督检查，发现问题会提出整改意见并限期整改。企业应当依法留存网络日志，配合检查并提供必要的技术、数据等支持和协助。
• 算法推荐违规会被怎么处理？罚款多少？
  第三十一条列举的违规情形，法律、行政法规有规定的从其规定，没有规定的给予警告、通报批评、责令限期改正；拒不改正或情节严重的责令暂停信息更新，

深度合成 · 8 条

• 什么样的算法才算「深度合成」？自家产品算不算？
  看三点：是否用深度学习、虚拟现实等生成合成类算法，产出是否为文本、图像、音频、视频、虚拟场景等网络信息，以及是否在境内用它提供互联网信息服务
• 做深度合成服务，提供者到底要落实哪些义务？
  总体上是一套「制度＋技术保障＋底线」的组合：落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、
• AI 生成的内容要不要打标？标能不能去掉？
  要。可能导致公众混淆或者误认的五类深度合成服务，必须在生成或编辑内容的合理位置、区域做显著标识；范围之外的服务也要提供显著标识功能并提示使用
• 深度合成服务必须实名认证吗？游客能发内容吗？
  必须。提供者应基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对使用者进行真实身份信息认证；对没有完
• 深度合成的算法要评估吗？日志要留多久？
  要评估。提供者和技术支持者应定期审核、评估、验证生成合成类算法机制机理；提供人脸、人声等生物识别信息编辑工具，或涉特殊物体、场景等非生物识别
• 用户协议里要写什么？对使用者要提示哪些事？
  提供者要制定和公开管理规则、平台公约，完善服务协议，并以显著方式提示技术支持者和使用者承担信息安全义务；提供人脸、人声等生物识别信息编辑功能
• 深度合成规定和生成式 AI 办法，两套规则怎么同时适用？
  不是二选一。深度合成规定管的是「应用深度合成技术提供互联网信息服务」，技术定义覆盖文本、图像、音频、视频、虚拟场景等；生成式人工智能相关规则
• 用 AI 换脸、AI 配音、数字人做营销，要做什么合规动作？
  营销场景下的动作是五件事：素材先取得被编辑个人的告知与单独同意；页面在合理位置、区域做显著标识；为使用者提供显著标识功能并提示其履行告知义务

备案实操 · 4 条

• 我们到底算不算「具有舆论属性或者社会动员能力」？
  来源文件中没有给出判定清单。可以确认的是：这项判断是算法分级分类管理的维度之一，并直接触发备案与安全评估义务。判定思路只能从条文列出的维度（
• 算法备案和生成式AI服务备案是一回事吗？
  生成式人工智能服务管理暂行办法第十七条把生成式AI服务的备案手续直接指向《互联网信息服务算法推荐管理规定》：提供具有舆论属性或者社会动员能力
• 上线AI客服或智能问答，需要先做安全评估吗？
  先判断服务是否具有舆论属性或者社会动员能力。若具备，算法推荐规定第二十七条要求按国家有关规定开展安全评估；生成式人工智能服务管理暂行办法第十
• 备案之外还要做哪些义务，别漏项？
  备案只是其中一项。还要承担网络信息内容生产者责任并履行网络信息安全义务，建立健全投诉举报机制、公布处理流程和反馈时限，按算法推荐规定设置用户

生成式AI暂行办法 · 12 条

• 公司内部用大模型，也要按这个办法管吗？
  关键看有没有向境内公众提供服务。该办法第二条把适用范围限定为「利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等
• 训练大模型的语料从哪来才算合法？
  该办法第七条要求提供者依法开展预训练、优化训练等训练数据处理活动，三条底线是：使用具有合法来源的数据和基础模型；涉及知识产权的不得侵害他人依
• AI生成违法违规内容，平台要怎么防？
  该办法第四条禁止生成危害国家安全、煽动分裂、宣扬恐怖主义极端主义、宣扬民族仇恨歧视、暴力淫秽色情以及虚假有害信息等法律、行政法规禁止的内容，
• AI生成内容出事，是平台担责还是用户担责？
  两边都有责任，义务不同。第九条要求提供者依法承担网络信息内容生产者责任和网络信息安全义务，涉个人信息时承担个人信息处理者责任；第二十二条把使
• 用户跟AI聊的内容，能存多久、能拿去训练吗？
  该办法第十一条规定，提供者对使用者的输入信息和使用记录应当依法履行保护义务：不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息
• AI产品有未成年人用，要额外做什么？
  该办法第十条要求提供者明确并公开服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，并采取有效措施防范未成年人用
• AI服务上线后，投诉举报机制要怎么建？
  该办法第十五条要求提供者建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。
• 发现AI生成了违法内容，该怎么处置和上报？
  该办法第十四条分两款：发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告；
• AI大模型上线前要做安全评估和算法备案吗？
  看是否具有舆论属性或者社会动员能力。该办法第十七条规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全
• AI服务的用户协议里必须写清楚哪些内容？
  该办法第九条第二款要求提供者与注册其服务的使用者签订服务协议，明确双方权利义务；第十条要求明确并公开服务的适用人群、场合、用途；第四条第五项
• 不合规会被怎么处理？是不是先整改就行？
  该办法第二十一条规定：违反本办法的，由有关主管部门依照网络安全法、数据安全法、个人信息保护法、科学技术进步法等法律、行政法规的规定予以处罚；
• 接第三方大模型API做客服，义务还算我的吗？
  算。该办法第二十二条把「通过提供可编程接口等方式提供生成式人工智能服务」的组织、个人也列为服务提供者。企业接入第三方大模型 API、面向客户

⁠‌​‌​‌‌​​​‌​​‌‌‌‌‌‌‌​​‌​‌‌​​‌​‌​​⁠本条目属于「中国 AI 合规与备案」集群（共 42 条）：查看全部 · 答案库首页