生成式AI暂行办法

AI生成内容出事，是平台担责还是用户担责？

你可能要做的

1. 在服务协议中写清提供者与使用者的权责边界
2. 建立使用者违法行为的分级处置流程
3. 对使用者违规行为保存记录并留档
4. 发现违法活动时按规定向主管部门报告
5. 在服务协议中禁止利用服务从事违法活动

条文依据

一句话结论

平台和用户不是二选一的责任关系。提供者承担内容生产者和个人信息处理者责任，使用者对自己的使用行为负责。用一纸免责声明把责任全推给用户，在本办法下不成立。

依据

第九条第一款把提供者的角色定清楚：依法承担网络信息内容生产者责任，履行网络信息安全义务；涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。这两个身份是法定的，不因用户点了「同意」而消失。

第二十二条用两个定义划出双方边界。第二项规定，生成式人工智能服务提供者是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。第三项规定，生成式人工智能服务使用者是指使用生成式人工智能服务生成内容的组织、个人。

第十四条第二款处理使用者违法的情形：提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。注意「依法依约」四个字，说明处置权既要来自法律，也要事先在服务协议里约定好。

第十八条同时保护使用者：使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。

你要做什么

1. 在服务协议里写明禁止用途清单，以及违规时提供者可采取的措施（警示、限制功能、暂停或终止服务），让「依约」有依据。
2. 建立违规处置分级：轻微警示、重复限制功能、严重暂停或终止服务。
3. 每次处置都保存记录，包括触发原因、采取措施、时间。
4. 达到报告情形的，按规定向有关主管部门报告，不要自行消化。
5. 不要把「用户自行承担全部责任」写进协议就当作免责，法定责任不因约定转移。
6. 面向企业客户时，在合同中同步约定企业侧对其终端用户的管理义务。

容易踩的坑

• 以为用户协议能免责。第九条的责任是法定责任。
• 处置无依据。协议里没写限制功能、暂停服务，处置时缺少「依约」支撑。
• 只处置不报告。第十四条第二款把报告和处置并列。
• 把使用者的投诉当成骚扰处理。第十八条明确了使用者向主管部门投诉举报的权利。

常见追问

用户用AI生成违规内容发到别的平台，提供者要担责吗？ 提供者发现后应依法依约处置并报告。提供者自身的责任仍按第九条判断，重点是是否建立了内容安全管理机制并实际执行。

企业内部员工用AI办公出了问题，公司算使用者吗？ 第二十二条第三项把使用者定义为使用服务生成内容的组织、个人，公司作为组织属于使用者，应当对其使用行为负责。

提供者能不能完全把内容责任推给下游集成商？ 不能。通过可编程接口对外提供服务的组织、个人本身就是提供者，责任不因再转售而转移。

常见追问

服务协议里写「由用户承担全部责任」有效吗？

约定可以明确双方权利义务，但不能免除提供者的法定义务。第九条规定的网络信息内容生产者责任和网络信息安全义务由提供者承担。

发现用户违规，必须直接停号吗？

第十四条第二款列举的是警示、限制功能、暂停或者终止向其提供服务等措施。按违规程度分级处置，并把分级写进服务协议更稳妥。

用户觉得服务不合规，能去哪里反映？

第十八条规定，使用者有权向有关主管部门投诉、举报。提供者一侧还应按第十五条建立健全投诉、举报机制。