我国Chat GPT 类产品运行中的风险和风险规制问题研究

张晨曦 广东理工学院马克思主义学院

一、Chat GPT 类产品合规治理

(一)人工智能产品律法的发展历程

2012 年影音图像识别技术和识别精度的提升，让人们能够更加便捷地使用软件将影音图像进行深度合成，比如人工智能换脸技术，就是将一个人的肖像剪切到另外一个人的头上。但换脸技术会产生一些道德伦理方面的问题，甚至会有不法分子利用其进行犯罪活动。我国目前对于人工智能这一方面的法规只有一些零星的规定，未能形成系统性的法律法规体系，导致犯罪分子的定罪较为困难。下面五部法规为我国目前对人工智能监管方面进行合规治理的依据：

1.《网络音频信息服务管理规定》由网信办、文旅部和广电总局联合发布，2020 年1 月1 日起实施。该规定第十条(具有媒体属性或者社会动员功能的音视频信息服务)和第十一条(生成内容标识和不得发布虚假信息)对人工智能生成内容的音频方面做出了规定。

2.《网络信息内容生态治理规定》由网信办发布，2020年3 月1 日起实施。该规定第二十三条指出，网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。该规定对网络信息生成内容生态进行了约束，人工智能利用深度学习、机器学习和网络虚拟技术所生成的内容都要符合相关主管部门的规定。

3.《民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。《民法典》第一千零二十三条规定，对自然人声音的保护，参照适用肖像权保护的有关规定。上述规定适用于人的肖像权和声音的保护。

4.《互联网信息服务算法推荐管理规定》由网信办、公安部、工信部和市场监督管理总局联合发布，2022 年3 月1 日起实施。该规定第二条、第九条和第十三条，均对合成内容做出了规定，特别是规范了算法的适用范畴。

5.《互联网信息服务深度合成管理规定》由网信办、工信部和公安部联合发布，2023 年1 月10 日起实施。该文件对于深度合成服务和产品提出了全方位的合规要求，是我国当前人工智能内容以及人工智能发布平台进行合规治理最核心的一个依据，也就是深度合成内容的一个管理规定。

(二)产品的牌照和备案

我国实行行业准入制度，在互联网行业内，互联网产品在上市的时候需要满足基础牌照的要求。我国的主管机关对于互联网平台的治理会提出的很高的一些要求，那么存在Chat GPT 类产品的平台或者软件运营者又都需要满足哪些基础的要求？另外，互联网平台一般除了主营业务之外，其他旁支业务也会不断地进行扩大与发展，衍生出更多的业务线，但基础要求的前提是其生成的内容是一些相对简单的文字类的解释，并且其问答的性质是能不具有文化属性的，所以业务的升级，则又需要满足哪些要求？

1.产品上线的基础要求

(1)基础牌照。人工智能学习所需要的内容和输出的内容均属于互联网信息。按照《互联网信息服务管理办法》第七条从事经营性互联网信息服务，应向电信管理机构或者国务院信息产业主管部门申请办理互联网信息服务增值电信业务经营许可证。Chat GPT 类产品则适用《电信业务分类目录》B 类增值电信业务项下的B21(在线数据处理和交易处理业务)和B25(信息服务业务，包括信息发布平台和递送服务、信息检索查询服务、信息社区平台服务、信息即时交互服务、信息保护和处理服务等)许可证。一个目的是在两个监管机构存档，让他们知道这个网站谁在做，做什么，如何联系；另一个目的则是为将来的业务发展预留空间。

(2)算法备案。人工智能的深度合成内容有清晰的规定，根据《互联网信息服务深度合成管理规定》第十九条指出，具有舆论属性和或社会动员能力的深度合成服务提供者，应该履行算法备案、变更、注销手续。所以互联网平台只要具有社会舆论性质或是具有社会动员能力，产品上线以及运营都需要经过该规定进行备案。

(3)安全评估。在互联网平台上线产品前，除了需要遵守《数据安全法》《网络安全法》《个人信息保护法》外，还需要遵循《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第三条，联网信息服务提供者应当依照本规定自行开展安全评估，并对评估结果负责。

综上所述，我国互联网平台上线Chat GPT 类产品时，需要首先申请对应的互联网信息服务增值电信业务经营许可证，其次是将算法进行备案，最后是根据三大法规及评估规定进行安全评估，均通过后方可上线产品。

2.业务升级的进阶要求

(1)网络文化经营许可证。在互联网技术和媒体发展推动下，网络文艺蓬勃发展，网络文学、网络影视、网络综艺、网络比赛、网络动漫、网络音乐、短视频等文化艺术类创作不断迸发。如果Chat GPT 类产品的平台进行了以盈利为目地的营业性互联网文艺活动，向上网客户收费或是网络技术、广告宣传、冠名赞助等方法获得权益，展出互联网文化产品以及服务项目的主题活动，就需要办理《网络文化经营许可证》。

(2)网络出版服务许可证。传统的图书和音像制品是以物质的形式存在，并且是通过出版社、报纸、期刊、唱片公司进行发行，具有版权，受到法律的保护。经过互联网的发展，大部分图书和音响制品不再需要通过其他渠道进行发行，直接上传至平台即可，载体从实物转化成数据，需要获取网络出版的版权。所以Chat GPT 类产品的平台发展不能缺少《网络出版服务许可证》。

(3)信息网络传播视听节目许可证。网络视听节目比网络文化涵盖面更广，包括网络剧、网络电影、纪录片、文艺、娱乐、科技、财经、体育、教育、原创试听节目等。如今Chat GPT 的接收与输出也在从图文类正在向影像类发展，所以也需要《信息网络传播视听节目许可证》来支撑其发展。该证在我国申请难度大，但含金量极高。

(4)互联网新闻信息服务许可证。用户在使用Chat GPT的时候会为其提供一些新闻事件的报导或是让其输出，相当于向社会公众提供了互联网的新闻信息服务，所以应当取得《互联网新闻信息服务许可》，才可开展互联网新闻信息服务活动。

(5)数据安全评估。Chat GPT 的本质是一个大的语言模型，之所以Chat GPT 能够以人类自然语言的形式输出，是因为它靠的是对于海量内容进行分析所得出来的人类语言的相关规则。因为有数据的交互，所以这里就涉及到数据安全的问题。用户使用产品的时候，会遗留大量的个人信息，比如所填写电话的实名信息、接入Chat GPT 时的网络IP、个人语言习惯等。根据《网络安全法》标准要求，需要分析网络运营者相关活动存在的数据安全风险，并对其进行评估。

综上所述，我国互联网平台Chat GPT 类产品业务升级时，应该根据拓展的业务类型，开具相应的资质许可证明及备案，并且进行数据的安全评估，方可继续发展。

二、Chat GPT 类产品运营风险防控

Chat GPT 类产品主要包含两个端口，一个是输入端，另外一个是输出端。输入端包含两种：第一种是用户的交互型的输入；第二种是爬虫主动抓取网上的各种信息，是最主要的输入来源。输出端的输出则为人工智能以自然语言文字或影音图像为形式给用户的反馈。Chat GPT 通过分析输入端的信息进行信息检索，使用爬虫来抓取网络上的各种信息数据，并对信息进行自然语言的加工，在输出端输出。比如，用户询问关于秦国的历史问题，Chat GPT 将用户输入信息上传至后端检索关于秦国的发展历程、相关事件、关键人物、时代典故等进行综合分析，形成一个清晰完整的脉络，用自然语言加工后输出你所需要的回答。如果没有这些基础前提，是无法满足用户需求的。Chat GPT 不断循环上述过程，将每次检索的内容和用户的反馈存入数据库，从而达到学习的目的。我们主要探讨的是以下两点：输入端通过爬虫所抓取的内容所获得信息，这个行为存在什么问题和运营风险？输出端所输出的内容是否存在侵权、违法信息所在？

(一)输入端

输入端通过用户的交互型输入从风险角度来分析，用户把相关内容提供给供给Chat GPT类产品去进行学习知识，尤其是专业论文方面的知识，是一个比较好的方式，所以这种输入方式风险较小。基于互联网互联、互通、公开的基础理念，Robert 协议里面没有明令禁止爬虫抓取相关的规定，所以原则上搜索引擎就可以对数据(如：网络上的文本数据、社交媒体数据、问答网站数据、新闻站数据、文学作品数据等)通过爬虫抓取，建立共存共融的网络生态环境。

上述理念虽然很好，但是这会出现一个互联网平台流量无法变现的问题，出现破坏互联网生态的风险。常规的搜索引擎为互联网平台做信息定位，用户通过搜索引擎的定位访问互联网平台，为后者带来流量。任何虚拟产业都需要有实体产业的支撑，实体产业通过互联网平台投放的大量广告来增大销售量，而后返利给互联网平台和搜索引擎，从而形成一种共存共融的产业链。但Chat GPT 类产品的出现打破了这条产业链，它通过爬虫直接获取互联网平台的数据，虽然通过搜索引擎进入了该网站，但是不会引导用户进入其中。所以最终结果是搜索引擎无法引导真实的流量，实体产业无法通过互联网平台的广告增加销售量，最终导致该产业链的总资金减少，形成三者俱败的局面。

输入端除了上述的问题以外，往更深层次去探究其风险，互联网平台会因为无法获取公共流量带来的红利，打破互联网互联、互通、公开的理念，封锁自身的信息，搭建自己的信息孤岛，最终破坏了互联网生态。例如，QQ 和微信是同一个公司的两款通讯类产品，他们之间的联系紧密，只要是微信能够使用的程序，无需额外的渠道去进行对接，直接在QQ 打开也能够使用，反之亦然。但是微信和短视频平台却无法做到，短视频用户想要分享视频给微信用户，短视频用户需要下载视频或者微信用户要打开相应的短视频APP 才能够观看，也就是需要额外的渠道进行连接两个平台。这就是Chat GPT 类产品在运营中所存在的风险，让信息孤岛加快形成，大大降低了互联网的传输效率，违背了互联网互通有无的宗旨。

(二)输出端

输出端的问题主要围绕其输出的内容来开展。

第一，著作权侵权。Chat GPT 类产品使用的模式，一定是构成侵权的。这就涉及到后端的分析，也就是Chat GPT 抓取进行学习这个行为原则上会和后端结合在一起，并不是孤立的概念。如果从孤立的角度来分析，那就是其是否影响了转换性的使用。比如某出版社将纸质书籍收录进了书籍管理系统里面进行线上售卖，它是不构成侵权的，因为该出版社拥有该图书的版权。但是Chat GPT 类产品在引用这些书籍的时候是没有版权的，所以其输出内容(文字、音频、图片、视频)和方式会很大程度上决定它是否著作权侵权，这就是商业风险所在。

第二，不正当竞争。任何网站和平台的运营都需要大量的资金投入进行开发，并且许多网站需要雇佣大量的创作者为网站创作内容，并且经过长时间的产出，才能稳定其发展。但是Chat GPT 只需要使用爬虫，便可以极低的成本快速将其创作内容全部抓取，除了涉嫌侵犯著作权之外，还构成不正当竞争。

第三，个人信息侵权。基于个人信息保护法，信息主体可以行使遗忘权，要求相关平台删除已经被发布在网络上有关自身不符的信息，以及此前收集的个人信息。Chat GPT 类产品是在你不知情的情况下将数据存放至数据库，如果没有关键词检索它是不会输出相关的内容，所以难以界定是否侵犯该权力。

三、Chat GPT 类产品生成内容的法律保护

无论是Chat GPT 产品的研发者，还是用户将其作为辅助工具去创作，过程都会进行劳动力的投入。我国法律进行保护的前提是具有劳动力价值的投入，无论是物质，还是精神层面损耗，它都需要有对等的等价物的概念，才能够受到法律的保护。我们将围绕这几个关键问题展开论述：Chat GPT 类产品生成的文章、影音图像等内容能否受到法律保护？Chat GPT 产品的本身是否受到法律保护？Chat GPT 产品的著作权人使用其进行创作，生成的内容是否归属于著作权人？

我国法律保护的是人的权力，而不是人工智能的权力。根据《著作权法实施条例》第二条规定，“著作权法所称作品，是指文学、艺术和科学领域内具有独创性并能以某种有形形式复制的智力成果”。该条例表明了著作权法保护的客体是自然人通过智慧劳动创作出具有独创性的作品。人工智能虽然可以模拟人的智力活动进行创作，并且生成内容与自然人创作的作品大同小异，但是该创作是依赖于算法的机械运算，所以不能与人类智力劳动相提并论。综上所述，Chat GPT类产品生成的内容不存在于法律保护的范畴之中。

Chat GPT 是人类智慧劳动所创造出来的产物，属于计算机类软件作品。根据《中华人民共和国著作权法》第三条规定，“本法所称的作品，是指文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果”。其中包含计算机软件，所以只要是软件的著作权人或者其受让者，都享有软件著作权的各项权利，也表明Chat GPT 产品本身受到法律保护。

Chat GPT 产品的著作权人使用其进行创作，不符合主客体属性逻辑，生成的内容也并非创作者的主观意志。Chat GPT 产品被软件制作者创作出来，则有一个明确的主体与客体，制作者为主体创作了客体Chat GPT 产品。Chat GPT创作过程中再将其视为创作主体，这就意味着Chat GPT 同时具有了主体与客体属性，形成了二元对立的局面，从而无法判断是否符合法律法规。除此之外，按照著作权体系的基本观点，独创性应当反映作者个性、作者思想和情感的表达。从Chat GPT 的创作流程来看，Chat GPT 使用者只是发出指令，并未参与生成内容的形成，使用者并不一定知道最终生成内容是以什么，所以Chat GPT 所生成内并非创作者或者使用者思想、情感的表达。综合来说，很难在现法律体系中处理涉Chat GPT类产品生成内容的相关问题。

Chat GPT 的诞生及其初步应用，表现出自然语言的大模型已经具备了人工智能生成内容(AIGC)面向通用型人工智能(AGI)的一些特征，在众多行业领域有着广泛的应用潜力，技术持续发展和社会广泛运用已是大势所趋，有潜力成为计算机领域最伟大的成就之一，并成为技术领域的重要力量。国内想要创造出Chat GPT 类产品到上线还有很长的路要走，但我们也要对未来保持审慎客观的态度去面对它。