生成式人工智能时代人工智能法的立法思考

严 驰

(同济大学法学院 上海 200092)

1 问题的提出

当前,全球人工智能的发展进入了新一轮跃升期.以GPT-4为标志的生成式人工智能(generative artificial intelligence, GAI)技术上的突破正在加速从专用人工智能迈向通用人工智能(artificial general intelligence, AGI)的进程,有望催生出人工智能新范式和新生态,进一步扩展人工智能的应用场景,全方位深度融入人类社会.2023年4月,中央网信办起草了《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》).短短3个月后,2023年7月,国家网信办等7部门就联合公布了《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》)[1].《暂行办法》是中国首次针对GAI技术和服务作出的明确规定,也是全球首个生效的GAI专门行政立法.不仅奠定了未来中国GAI技术和服务的发展基调,还引领了国际范围内的GAI治理实践.

面对人工智能技术发展带来的机遇与挑战,亟需推进国家层面的人工智能领域立法,把人工智能装入制度的“笼子”里[2].2023年5月发布的《国务院2023年度立法工作计划》中正式将《人工智能法草案》列为预备提请全国人大常委会审议的34项立法草案之一,终结了是否应在全国层面进行人工智能专门立法的争论,接下来《人工智能法草案》拟定过程中需要思考的是如何更好地保障人工智能技术的健康、快速发展.目前《人工智能法草案》尚处于预备提请审议阶段,未列入拟提请审议的法律案名单,距离真正落地还需经过较长一段时间.《暂行办法》的出台为《人工智能法草案》的完善提供了思路参考.今后应以《暂行办法》中的相关规定为借鉴,明确人工智能法制定时应关注的4个重点问题,以期构建更科学合理的人工智能领域顶层设计方案,推动科技向善.首先,在总体层面考虑采用促进型立法模式;其次,在立法内容上减少使用准用性规范;再次,明确立法中分类分级监管的思路;最后,加强国际交流与合作.对此,本文将分为4节进行详细阐述.

2 采用促进型立法模式

有学者指出,现有的立法模式大致分为3个阶段:第一阶段以规范主体行为为特征,主要体现为刑事立法、行政立法及民商事立法领域的“设范型立法”;第二阶段以调控管理社会经济事务为特征,包括经济调控、社会保障、环境保护领域的“管理型立法”;第三阶段的“促进型立法”是在设范型立法和管理型立法基础上的调整和完善[3],旨在提倡和促进某项事业发展,通常面向于社会关系尚未得到良好发育、市场规模尚未形成的新兴领域[4],是国家干预经济和社会发展的重要体现,对新兴产业或事业的发展起到积极的促进、引导和推动作用.1996年颁布的《促进科技成果转化法》中首次出现“促进”的字样,此后颁布的10部促进型立法在名称中均以“促进法”为尾缀.促进型立法经过30年的探索与创新,形成了独具特色的立法经验.具体体现为和人民生活紧密相连,立法范围主要为薄弱性产业、改革中事业与发展中行业,贯彻了“为人民服务”的立法理念,充分反映了人民意愿[5].

人工智能作为一种新兴技术,广义上属于科技法的规制范畴.以“科技”“科学技术”为关键词在国家法律法规数据库进行检索,可以找到《促进科技成果转化法》《科学技术进步法》和《科学技术普及法》3部法律.从广义上来看,3部法律均属于促进型立法,其立法意图分别是促进科技成果转化、推动科学技术进步和普及科学技术.反观人工智能法的名称,只能反映出规范对象是人工智能,无法体现更多的信息.尽管《暂行办法》全称中带有“管理”的字样,看似属于管理型立法.但是,从《暂行办法》的具体内容中可以看出其促进型立法属性.如《暂行办法》第1条提出,立法目的是“促进生成式人工智能技术的健康发展和规范应用”.在法律依据上,《暂行办法》也比《征求意见稿》中增加了《科学技术进步法》.《暂行办法》第3条还指出,《暂行办法》坚持的主要原则是“发展和安全并重、促进创新和依法治理相结合”,弱化了《征求意见稿》中强调监管的基调,在排序上将“发展”“创新”置于“安全”“治理”之前.

2022年9月起,多地陆续发布了人工智能领域的地方性促进型立法,如《深圳经济特区人工智能产业促进条例》《上海市促进人工智能产业发展条例》《北京市促进通用人工智能创新发展的若干措施》等,推动了当地人工智能产业的高质量发展.鉴于人工智能技术虚实结合的特性,立法缺乏有效的参考点,以“软法”治理人工智能是此前传统的全球治理范式.促进法是典型的不依靠国家强制力保证实施的软法规范,能有效弥补道德、政策等其他社会规范的缺陷[6],相较于传统的管理型立法,人工智能法更应采用促进型立法模式.同时,为更好地鼓励和支持中国人工智能产业的发展,还可以考虑将“人工智能法”的名称调整为更为直观的“人工智能产业促进法”.从语言哲学的角度来看,可以借用柏拉图的论断,认为讨论的一切名称都是用于说明事物的本性[7].立法名称不仅是法律文本的重要组成部分,也是确保法律实施效果的关键,具有区分、识别和系统集成等重要功能,应简明扼要地反应法律的内容和主旨[8].虽然《人工智能法草案》已经进入了“预备提请审议”阶段,但并不代表“人工智能法”的名称已盖棺定论.相关的名称调整早有先例,如《家庭教育促进法》起草时最初的名称就是《家庭教育法》,后来为了和法律内容保持一致进行了修改.

3 减少使用准用性规范

《暂行办法》是一部全面完整的针对GAI技术和服务的规范性文件,系统地规定了GAI领域涉及的概念定义、治理规则、服务规范、监督检查和法律责任等内容.为应对人工智能领域不断变化的技术发展和市场情况,在鼓励GAI创新发展的同时实现依法治理,《暂行办法》与《征求意见稿》相比在适用范围、监管方式、处罚措施等方面都产生了重大的变化,由于《暂行办法》具体内容和改动之处并非文章探讨的重点,故在此不再赘述.

“准用性规范”是指法律条文中未规定规范的完整逻辑结构,转而指出适用另一法律文件中的某个规范[9],在我国立法尤其是民商事立法中并不少见.如《证券法》第11条指出,设立股份有限公司公开发行股票应符合《公司法》的相关规定.据统计,《征求意见稿》短短21条中出现了多达6处的准用性规范.《暂行办法》保留了《征求意见稿》中大部分的准用性规范,主要有第7条、第12条、第17条和第21条.其中第7条是对GAI服务提供者开展训练数据处理活动的规定,应遵守《中华人民共和国网络安全法》(以下简称《网络安全法》)、《中华人民共和国数据安全法》(以下简称《数据安全法》)、《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)中的相关监管要求;第12条是关于“标识义务”的规定,GAI服务提供者应按照《互联网信息服务深度合成管理规定》(以下简称《深度合成管理规定》)第16～18条的规定对内容进行标识;第17条是“安全评估和备案义务”规定,提供具有舆论属性或者社会动员能力的GAI服务,应按照《互联网信息服务算法推荐管理规定》(以下简称《算法推荐管理规定》)第24条的规定履行备案和变更、注销备案手续[10];第21条是处罚措施,GAI服务提供者在违反《暂行办法》规定时,有关主管部门应依照《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》的规定进行处罚.

准用性规范是一种法条扩展技术,其实质是类推适用,关键是相似性判断[11].立法中过多的准用性规范会带来严重的法律解释问题.一方面可能会模糊法条定位,造成概念界定和认知上的偏差,导致法律规制的失败.如《暂行办法》第7条中,GAI服务提供者在开展数据预训练、优化训练时,遵守相关法律规定本就是应有之义.目前表现优异的GAI大模型均达到千亿参数级别.《暂行办法》类似于相关规范的场景补丁,单独转置相应条款虽然在形式上体现出规定的重要性,但容易混淆GAI技术涉及海量数据使用的特征.另一方面,转置后的规范在内容上相对而言更为全面具体,如《暂行办法》第12条提出内容标识上和《深度合成管理规定》进行衔接.《深度合成管理规定》详细指出,服务提供者应采取技术措施添加标识并依法依规保存日志信息,在生成或者编辑的信息内容的合理位置或区域进行显著标识且任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识[12].由此观之,原法条存在被架空的风险.

明确性原则是对立法的基本要求,是一种具有实践理性的拘束性规定[13].人工智能法的立法内容应以确定性规范为主,增强法条的可操作性和可执行性,力求文本内容规范具体[14],减少准用性规范的数量.同时,积极增进制度协调,做好转置后规范和原法条的衔接,避免内容的冲突和重叠,更好地让人工智能技术在法律框架下释放价值.

4 明确分类分级监管思路

此前,分类分级保护制度在我国常见于算法和数据领域.在算法层面,2021年9月印发的《关于加强互联网信息服务算法综合治理的指导意见》首次提出“推进算法分级分类安全管理”的概念;2021年11月通过的《算法推荐管理规定》第23条进一步明确要“建立算法分级分类安全管理制度”.在数据层面,《数据安全法》第21条明确提出要从中央和地方2个层面建设“国家数据分类分级保护制度”;《网络安全法》第21条中也提到“采取数据分类”;《个人信息保护法》第51条则提出“对个人信息实行分类管理”.如前所述,《算法推荐管理规定》《网络安全法》《数据安全法》《个人信息保护法》均是《暂行办法》中准用性规范的转置对象,《暂行办法》在制定过程中对以上监管方案多有借鉴,分级分类治理的思路也得到了赓续.《暂行办法》第3条明确提出,在监管方式上,对GAI服务实行包容审慎和分类分级监管;第6条提到“推动公共数据分类分级有序开放”;第16条再次强调,国家有关主管部门应针对GAI技术特点及其在有关行业和领域的服务应用制定分类分级监管规则和指引[15].

人工智能领域分类分级监管的思路肇始于欧盟出台的《人工智能法案》(AIA),AIA在经过多次谈判和修正后明确加入了对GAI大模型采取严格监管的规定.2023年6月,欧洲议会以绝对多数票通过了AIA草案.按照立法程序,AIA已经进入了最终协商阶段.欧盟AIA将人工智能系统分为4个风险类别进行监管.首先,严格禁止产生“不可接受的风险”(unacceptable risk)的人工智能系统并附加高额处罚;其次,明确“高风险”(highrisk)的人工智能系统将遵守风险管理措施并接受全生命周期评估;再次,对“有限风险”(limited risk)的人工智能系统设定特定的公开要求和透明度义务;最后,放弃对“低风险和最小风险”(low and minimal risk)级别人工智能系统的监管[16].AIA的附录划定了高风险覆盖的8大领域,包括生物测定,重要基础设施,教育与职业培训,就业与员工管理,提供私人和公共服务,法律执行,移民、庇护和边境控制,司法和民主程序.根据定义,具有透明度的聊天机器人属于有限风险人工智能系统,而像GPT-4这样未履行透明度义务的GAI则属于“提供私人和公共服务”的高风险人工智能系统,AIA对其规定了严格的监管要求.

分类分级是人工智能监管的应有之义,其好处在于避免了“一刀切”式的粗犷立法,有利于增强法律的针对性、科学性,提升监管的精确性、有效性,促进我国人工智能产业的进一步发展.《暂行办法》中虽然提出了GAI服务分类分级治理的原则,但并未进一步展开具体的监管规则.今后应拓宽立法视野,参考AIA中的欧盟标准,制定符合我国现实国情和需求的风险评估机制,提前做好未来的合规准备.实践中我国其他领域的分类分级治理方案为人工智能法的构建提供了有益的经验借鉴.以数据领域为例,虽然现行法律法规或部门规章中还停留于分类分级的总体要求,但是在部委发布的指引性文件和标准中可以看到一些具体方案[17].如2020年2月工信部发布的《工业数据分类分级指南(试行)》第二章综合考虑行业差别、业务规模大小等情况,将工业企业和平台企业的工业数据进行了分类.第三章则根据工业数据遭篡改、破坏、泄露或非法利用后的潜在影响分为3个级别[18].

5 加强国际交流与合作

人工智能革命的历史进程中不可避免地嵌入国家角色并产生作用力,也不可避免地引发国家间围绕人工智能革命的新博弈与新竞争[19].《暂行办法》第6条在《征求意见稿》第3条中提到“国际合作”的基础上,进一步强调开展国际交流与合作,参与国际规则制定的重要性.人工智能法制定过程中应放眼全球,在反制科技制裁和封锁的同时,将中国价值和中国方案进一步对外推广,争取人工智能领域的国际话语权.

新加坡是全球较早启动国家人工智能战略的国家之一,在东南亚地区的人工智能治理规则制定中占据着领导地位.同时,新加坡还是世界范围内数字经济协定的倡导者和先行者,已经陆续和5个国家完成了关于4个数字经济协定的谈判.2020年6月,新加坡、新西兰和智利3国通过视频会议的方式,线上签署了《数字经济伙伴关系协定》(DEPA).DEPA是新加坡领导下签署的全球范围内首个区域性数字经济协定,有学者称其为中美欧之外全球数字经贸规则发展中的“第四种力量”[21].2021年11月,中国正式向新西兰方递交了加入DEPA的申请.新加坡在DEPA之后又陆续完成了《新加坡-澳大利亚数字经济协定》(SADEA)、《英国-新加坡数字经济协定》(UKSDEA)和《韩国-新加坡数字伙伴关系协定》(KSDPA)的谈判,并与欧盟初步建立了“欧盟-新加坡数字伙伴关系”(EUSDP)框架协议.此前的国际贸易协定中从没涉及与人工智能相关的具体技术层面的问题[22].DEPA是全球首个涵盖人工智能规则的数字经济协定,随后签署的SADEA,UKSDEA,KSDPA和EUSDP中也均含有人工智能条款,SADEA和KSDPA中还附有旨在发展和鼓励人工智能治理合作的谅解备忘录(MOU).

新加坡在数字经济协定中搭建起一个初步的国际人工智能治理框架,通过双边或多边数字经济协定(不局限于数字经济协定)的形式,加强国际交流和合作,与更多的国家间在人工智能治理事项上达成共识.新加坡和中国之间有着良好的经贸合作基础,2国不仅签署了《中国-新加坡自由贸易协定》(CSFTA)并完成了协定的升级,而且还均为《区域全面经济伙伴关系协定》(RCEP)的缔约国[23].虽然新加坡在贸易体量和中国存在较大差距.但是,新加坡在人工智能领域的国际合作经验对我国而言有很高的借鉴价值.今后人工智能法的制定过程中应贯彻落实《暂行办法》中“开展国际交流与合作、参与国际规则制定”的要求,充分借鉴新加坡的发展模式,和已经建立起紧密联系的“一带一路”沿线国家或RCEP成员国之间探索小范围人工智能试点合作的可行性[24].同时,积极推进加入DEPA的进程,与新加坡等成员国共同参与人工智能国际治理规则的制定,提升中国在人工智能领域的影响力和话语权.

6 结 语

随着人工智能技术层面的创新突破和应用层面的广泛落地,人工智能正在成为引领新一轮科技革命的重要引擎.人工智能法作为国家层面的人工智能基础性法律,属于“1+N”规则体系中的“1”,在我国的人工智能治理中发挥着总揽全局、协调各方的核心统领作用.《暂行办法》则是“1+N”中的N之一,是人工智能法在GAI领域的下位法.通过“1”和“N”的有效结合,才能实现对人工智能的全方位监管.如今人工智能法正处于立法进程之中,《暂行办法》的先行出台是对我国人工智能整体性监管的及时应对和有益尝试,给未来统一的人工智能法预留了充分的发挥空间.可以预计,未来我国的人工智能立法无论是从横向的时代性还是从纵向的历史性来看都会更趋全面和完善.今后应结合《暂行办法》的成功经验,顺应时代发展趋势,从立法模式、规则构造、监管思路和国际合作4方面出发,积极探索构建具有中国特色的人工智能治理规则,确保人工智能法能够真正地推动我国科技进步,助力社会经济发展.