漫画：颜庆雄

近日，国家互联网信息办公室发布通知，就《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》）公开征求意见。这或将是我国专门针对AIGC（人工智能生成内容）发布的第一份政府文件，引发社会各界广泛关注。本期“思与辨”就该问题进行讨论。

(资料图片仅供参考)

■ 主持人：赵 鑫

■ 嘉 宾：盘和林（浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员）

李 岩（辽宁大学法学院副院长、教授）

国瀚文（西北政法大学民商法学院讲师、数字法学研究院特聘研究员）

从年初至今，以ChatGPT为代表的生成式人工智能引爆科技圈，一些国内公司也纷纷推出相应的产品和服务。此时国家出台《办法》规范生成式人工智能，释放了哪些信号？

李岩： 第一，明确我国致力于人工智能服务合法化发展的立场。 《办法》为企业发展提供一个合规框架，并试图在合规前提下打造出人工智能技术创新发展新局面。 第二，对服务提供者提出了高标准的合规义务要求。 一方面，服务提供者需要在应用中满足运营合规要求；另一方面，服务提供者将作为主要的人工智能生成物法律责任的承担者。《办法》在责任承担上实现了与其他法律制度的衔接，服务提供者不仅需要承担生成内容生产者的责任，还需要承担作为个人信息处理者的责任。

盘和林： 一个信号是我们走的是先规范后发展的模式 ，在这个总基调下，互联网企业要考虑应用的合规性。 《 办法》还是一个粗线条的条款，是对于当前国内对AIGC一哄而上无序状态的应急举措，政策的执行具体流程是怎么样的？主管单位是谁？怎么认定是真实准确的内容？这些细节还没有确切的说法，所以《办法》还有很大的完善空间。

国瀚文： 透过该《办法》可以看出国家鼓励生成式人工智能的发展，同时也将加大管理、监督力度，引导和规范相关行业。 《办法》一方面体现了国家对个人权益的保护，另一方面也体现出国家大力支持人工智能产业，推动相关产业技术的发展。

此前，有不少国家对生成式人工智能出台了监管新政，侧重点各不相同。我国出台的《办法》有哪些显著特点？哪些规定值得特别关注？

国瀚文： 一是 对生成式人工智能服务的监管贯穿始终，规定了申报安全评估、履行算法备案等登记手续。 二是 强调生成式人工智能产品或服务需遵守法律规范及尊重社会公德、公序良俗，与我国对待数据产业的态度是一致的。

值得关注的是，《办法》聚焦生成式人工智能服务的安全合法，强调生成式人工智能服务的治理及权益保护，对算法的可靠性和透明度提出了要求。

总体来看，《办法》回应了当前生成式人工智能发展的需要，对一些可能出现的衍生问题提出防范举措，有助于提前研判规避风险。

盘和林： 《办法》和其他国家的监管目标是不同的， 我国关注的重点是内容生成的价值取向问题。 规范生成内容是可以做到的，因为AI是高质量数据训练的产物，文本也好，图像也好，都是可以达成目标的，但现在以提供方为责任人的规定，我认为还是要有所调整，诸如用户也要负一定责任，因为AI生成内容是和用户有关系的。所以要加强对用户责任的认定，不能让所有的责任都由提供方来承担。当然，提供方有责任进行一些必要的限制，来回避敏感内容，但即便是提供方屏蔽了，模型训练了，还是无法回避所有的问题，因为人类文字，尤其是中文是很复杂的，如果出现歧义，应该给予适度包容，如果被用户恶意传播，则应该让用户承担相应责任。

李岩： 第一， 《办法》提出了全流程全周期的监管要求。对算法入市、数据来源、数据训练输出文本等各个环节的风险控制，提出了要求。 第二， 《办法》的监管举措主要通过为服务提供者设置监管义务实现。 第三， 《办法》设置了多条引致条款，与《数据安全法》《个人信息保护法》等现行法律法规形成良好衔接，能够发挥出体系效应。

值得注意的是，《办法》第十一条规定不得非法留存能推断出用户身份的输入信息。这一规定能够有效防范个人信息泄露风险。但如何实现这类信息与其他信息的区分，还需要进一步研究。另外，《办法》未涉及对于商业秘密或高敏感度的商业数据的留存问题，缺乏对商业数据的事前监管。

对于规范生成式人工智能，您还有哪些好的建议？

盘和林： 立法应该关注AIGC的一些特性，比如内容生成的随机性，比如责任划分问题。如果先规范再发展成为主基调，那么在规范方面要考虑更加成熟的立法方案，因为法规一旦出台，就需要不折不扣地执行。而如果法律出台之后，对AIGC产业发展造成了阻碍，导致大量AIGC应用无法落地，那就有可能导致新的科技差距。 所以，立法还是要进一步细化，做好每一条的解释工作，落实责任主体。 也要和AIGC领域的龙头企业做好沟通。对于新技术，我们都有一个接受的过程，对新技术的理解不可能一步到位。法律就是画红线，红线是规范企业行为的，红线划得越细，企业获得的空间就越大，企业在科技领域的表现就越活跃。

国瀚文： 规范生成式人工智能， 首先 应完善相关的法律法规，对生成式人工智能服务进行分类管理； 其次 ，建立完整的安全评估规范和管理流程规范，保障数据安全及隐私安全，提高生成式人工智能服务的质量和水平。

李岩： 第一， 建立包容审慎的生成式人工智能审查模式。包容审慎的审查观能够更好实现技术发展与安全之间的平衡，为企业的技术发展预留空间。 第二， 建立专门监管机构，对生成式人工智能实施专项监管。生成式人工智能行业的监管需要一定的技术支持，不仅需要借助技术手段监管，而且需要技术人才进行风险解构。传统监管模式容易出现权限划分争端，可能出现监管权限交叉或监管真空问题，专项监管模式有助于实现算法的分级分类管理。

关键词：