生成式AI暂行办法

AI产品有未成年人用，要额外做什么？

你可能要做的

1. 在首页与相关页面公开适用人群、场合、用途
2. 设计未成年人使用时长或频率干预机制
3. 对可能危害身心健康的内容收紧策略
4. 提供监护提示与使用建议说明
5. 定期评估防沉迷措施的实际效果

条文依据

一句话结论

面向公众的 AI 服务，如果未成年人可能使用，就必须按第十条做三件事：说清楚服务的适用人群、场合、用途；引导使用者科学理性使用；采取措施防范未成年人过度依赖或沉迷。

依据

第十条把要求写成一句话三层：明确并公开适用人群、场合、用途；指导使用者科学理性认识和依法使用生成式人工智能技术；采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

「明确并公开」是动作要求，意味着不能只在内部知道，要在用户能看到的界面说明这项服务适合谁、用在什么场景、用来做什么。比如面向专业设计的图像工具和面向学生的作文工具，适用人群声明应当不同。

「采取有效措施」是新义务里最容易落空的一条。有效的含义是可验证：有没有时长统计、有没有触发干预、干预之后行为有没有变化。

第四条第四项提供内容侧的支撑：尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。面向未成年人的场景里，身心健康这一项需要更严格的内容策略。

第四条第五项还要求基于服务类型特点，提升服务的透明度，提高生成内容的准确性和可靠性。对未成年人使用的场景，透明度意味着要让使用者明白内容由 AI 生成、可能不准确。

你要做什么

1. 在显著位置公开服务适用人群、场合、用途。不要只写在用户协议深处。
2. 判断产品是否可能出现未成年人用户。只要面向公众开放，就不能假设没有。
3. 设计依赖干预：连续使用时长提示、深夜时段提醒、单日使用量提示，并让用户可查看自己的使用记录。
4. 对可能危害身心健康的内容收紧策略，包括自伤、极端情绪、外貌评价等话题下的引导。
5. 提供监护提示，说明监护人可以使用哪些管理方式。
6. 定期看数据：干预触发率、用户使用时长分布，验证措施是否有效。

容易踩的坑

• 认为「产品不是给学生的」就不用管。面向公众开放就要考虑未成年人可达性。
• 只写声明不做机制。第十条要求的是「采取有效措施」，不是写一句提示。
• 用推送和连续互动设计拉长使用时长，与防沉迷方向相反。
• 把防沉迷等同于内容过滤，忽略时长与依赖维度。

常见追问

防沉迷具体要做成什么样？ 办法未规定统一形式，要求是采取有效措施防范过度依赖或者沉迷。可执行的做法包括使用时长提示、时段提醒、使用记录查询和内容分级。细节以属地网信办口径为准。

未成年人能否未经监护人同意使用？ 第十条未直接规定账号准入规则。涉及未成年人个人信息处理的，还需遵守个人信息保护法等法律的专门规定。

只在App里加提示语算不算有效措施？ 单靠提示很难说明「有效」。最好有可统计、可触发、可复盘的机制。

常见追问

服务声明里怎么描述适用人群？

按第十条，要明确并公开适用人群、场合、用途三要素。写法上应具体到典型使用者与典型场景，避免笼统写「适用于所有用户」。

防沉迷措施需要向监管部门报备吗？

办法未要求单独报备防沉迷机制。属于具有舆论属性或者社会动员能力的服务，按第十七条开展安全评估并履行算法备案手续。具体口径以属地网信办为准。

面向未成年人的AI内容策略要更严吗？

需要。除第十条外，第四条第四项要求不得危害他人身心健康，面向未成年人的场景应当收紧相关话题的生成策略。