生成式人工智能服务管理暂行办法 — 综合评述

概述

《生成式人工智能服务管理暂行办法》（第15号令）由国家互联网信息办公室联合国家发展改革委、教育部、科技部、工信部、公安部、国家广播电视总局七个部门于2023年7月13日公布，自2023年8月15日起施行。这是中国乃至全球范围内首批专门针对生成式人工智能服务的综合性监管法规之一，标志着中国对ChatGPT等大语言模型及其衍生服务的监管框架正式建立。

该办法共五章二十四条，以《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等上位法为依据，确立了"发展和安全并重、促进创新和依法治理相结合"的基本原则，并明确对生成式AI服务实行"包容审慎和分类分级监管"。办法的适用范围为"利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务"，但明确将纯粹的技术研发活动（未向公众提供服务的）排除在监管范围之外，体现了对创新的保护。

主要条款

办法的核心条款可分为三大板块：

一、内容合规与价值观要求（第4条）： 这是办法中最受关注的条款。要求提供者和使用者遵守法律法规、尊重社会公德和伦理道德，具体包括：坚持社会主义核心价值观，禁止生成危害国家安全、损害国家形象、煽动分裂、宣扬恐怖极端主义、传播虚假有害信息等内容；在算法设计、训练数据选择、模型生成和优化等全流程中防止歧视；尊重知识产权和商业道德；尊重他人合法权益；并基于服务类型提升透明度和内容准确性。

二、训练数据与技术治理（第7-8条）： 要求使用具有合法来源的数据和基础模型；不得侵犯知识产权；涉及个人信息须取得同意或符合法定情形；采取有效措施提高训练数据质量。对数据标注活动提出了具体要求，包括制定清晰可操作的标注规则、开展质量评估和抽样核验、对标注人员进行必要培训。

三、服务规范与用户保护（第9-15条）： 提供者承担网络信息内容生产者责任和个人信息处理者责任；须与使用者签订服务协议；明确公开服务的适用人群、场合和用途；防范未成年人过度依赖；保护使用者输入信息和使用记录；对生成内容进行深度合成标识；发现违法内容须及时处置并上报；建立投诉举报机制。

四、监管架构（第16-21条）： 建立多部门协同监管体制（网信、发改、教育、科技、工信、公安、广电、新闻出版）；具有舆论属性或社会动员能力的服务须进行安全评估和算法备案；对境外向境内提供不合规服务的可采取技术措施予以处置；违法行为依据上位法予以处罚，情节严重的可责令暂停服务。

目标与时间表

作为部门规章而非发展规划，该办法未设定阶段性发展目标。但其时间线如下：

2023年5月23日： 国家互联网信息办公室第12次室务会审议通过
2023年7月10日： 七部门联合签署
2023年7月13日： 正式公布
2023年8月15日： 正式施行

办法标题中的"暂行"二字意味着这是一个过渡性法规，将根据实施情况和技术发展进行修订或升级为正式办法。截至目前，正式版本尚未发布，暂行办法持续有效。

该办法的出台节奏值得关注：2023年4月曾发布征求意见稿，最终稿在吸收社会意见后做了显著调整——特别是增加了对创新的鼓励性条款，弱化了部分限制性表述，确立了"包容审慎"的监管基调。

实施机制

办法建立了以下实施机制：

多部门协同监管： 七个签署部门依据各自职责加强管理，制定适应技术特点的分类分级监管规则或指引。这种"九龙治水"式的监管架构既体现了生成式AI服务的跨领域性，也带来了执法协调的挑战。
安全评估制度： 具有舆论属性或社会动员能力的服务须按国家有关规定开展安全评估，并履行算法备案手续。这与此前的《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》形成衔接。
说明与配合义务： 提供者须按监管要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要技术支持。
跨境监管： 对境外向中国境内提供不合规生成式AI服务的，国家网信部门可通知有关机构采取技术措施予以处置，为跨境执法提供了法律依据。
处罚梯度： 违规行为依据上位法处罚；无上位法规定的，可予警告、通报批评、限期改正；情节严重的责令暂停服务；构成犯罪的追究刑事责任。

行业影响

该办法对行业产生了多维度的深远影响：

监管预期明确化。 办法的出台结束了大模型服务"监管真空"的状态，为企业提供了明确的合规框架。"包容审慎"和"分类分级"的监管定调，相比征求意见稿有所松动，给予了行业一定的发展空间。对纯研发活动的豁免进一步保护了技术创新。

合规成本提升。 训练数据合法性审查、数据标注质量管理、内容安全过滤、深度合成标识、用户投诉处理等要求显著增加了企业运营成本。中小企业面临的合规压力尤为突出，可能加速行业集中度提升。

算法备案常态化。 具有舆论属性的生成式AI服务须进行算法备案，这将中国特有的算法备案制度扩展到了生成式AI领域。截至实施后，百度文心一言、阿里通义千问、华为盘古等主要大模型均已完成备案。

国际示范效应。 作为全球首批生成式AI专项法规之一，该办法为其他国家和地区的立法提供了参考样本。欧盟《人工智能法案》中关于通用人工智能模型的相关条款与本办法存在多处理念交叉。

数据治理强化。 办法对训练数据合法来源和质量的要求，推动了数据标注行业的规范化发展，也促使企业更加重视数据合规和知识产权保护。

修改历史

2023年4月11日： 国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，共21条，措辞较为严格。
2023年7月13日： 正式发布《生成式人工智能服务管理暂行办法》（第15号令），共24条。相较征求意见稿，正式稿做了多处重要修改：增加了鼓励创新的条款（第5、6条）；将监管原则明确为"包容审慎和分类分级"；缩小了适用范围（排除纯研发活动）；软化了部分合规要求的表述方式。
截至目前，暂行办法未经进一步修订。正式版《生成式人工智能服务管理办法》的制定工作尚在推进中。

Interim Measures for Generative AI Management