人工智能的法律挑战及其应对

钱燕娜,储召锋

(1.国防大学政治学院 马克思主义理论系，上海 201602 2.国防大学国际关系学院 国际关系与战略系，江苏 南京 210000)

人工智能技术的发展,引发了一场新的产业浪潮,推动了全球互联网企业的战略转型,并在实践与理论层面给法律带来巨大挑战。为此,我们必须采取预防措施,并在法律制度上进行适当的回应。

一、人工智能的法律挑战的实践层面

从实际应用的角度来看,人工智能给法律界带来了四个方面的挑战。

(一)个人信息保护问题

虽然人工智能在法律上未有明确定义,但因人工智能技术的发展需要收集、分析和使用海量数据,其中必然涉及具有直接或间接的身份识别性的个人信息。因人工智能实践应用引发的个人信息保护问题大体上可以分为两类:一是人工智能技术本身侵犯个人信息;二是利用人工智能技术侵犯个人信息。目前两类问题均已产生了诸多实践案例。关于人工智能侵犯个人信息的案例,当前主要集中于人脸识别系统方面。2019年,“人脸识别第一案”引发了全国的关注,这一案件的审理重点在于如何正确地评估野生动物世界收集和使用人脸信息的行为。近年来,类似的案例层出不穷,这些案例不仅说明了个人权利亟须法律保障,也是对人工智能技术下的个人信息安全的强有力警示。

(二)算法面临的法律挑战问题

目前,基于大规模的数字化信息处理和机器自主决策的人工智能算法已经被普遍采用,并在各领域都取得了巨大的成就。人工智能算法能够通过收集数据和设定指令对人的行为进行预测和评价。用户在网购、智能诊疗、新闻推荐等领域都能享受到算法带来的便利。但是,人工智能算法独特的运行逻辑也带来了诸多法律问题。例如,信用评价算法和保险精算算法等,曾经被用来帮助人们做出正确的决策,但随着人工智能技术的发展,这些算法已经不再仅仅被用作工具,而是根据大量的数据,自动生成有效的决策,从而改变了“算法权威”的原有模式,在应用中反客为主[1]。同时,人工智能算法的自我决策过程存在许多不确定因素,形成算法黑箱,又引发行政风险、算法歧视、信息茧房与隐私泄露等问题,甚至在无形中构成了算法与人类间的技术支配关系,造成“算法权力”。

(三)人工智能作品的知识产权保护问题

从目前的实践来看,人工智能作品的知识产权保护主要涉及人工智能的名称、形象、数据的知识产权保护,对于人工智能创作作品的版权所有者和算法的知识产权保护。其中,人工智能创作作品的著作权归属已经出现争议。随着技术的进步,机器人不仅可以自主创作音乐和绘画作品,而且还可以创作诗歌,其作品甚至被出版成专业的诗歌集。因此,传统“算法”的版权保护已经不能满足智能化时代的需求,人工智能算法的知识产权保护已经成为一个迫切需要解决的法律问题。

(四)人工智能监管及其引发的责任分配问题

随着人工智能技术在医疗、运输、金融等领域的不断应用,涉及的个人敏感数据也越来越多,因此,政府在设计监管模式时,必须采取“高准入、严许可”的有效措施,以确保数据的安全性和可靠性。从市场发展实践看,人工智能监管不力所引发的责任问题也与日俱增。美国在2018年发生的首例自动驾驶汽车撞人致死事件,使人工智能监管及其引发的责任分配矛盾日趋尖锐,由此延伸出亟须明确的法律问题是:人工智能因系统故障、决策失误等原因引起的致人伤害或死亡的侵权责任、刑事责任等应当如何认定,法律是否有必要为因人工智能引起的责任分配问题制定专门的规则等。

二、人工智能的法律挑战的理论层面

从人工智能的法律挑战的理论层面看,可以概括为四个方面:人工智能对主体制度的挑战、对权利制度的挑战、对法律原则的挑战及对责任制度的挑战。

(一)对主体制度的挑战

大多数学者认为人工智能没有自主意识,但随着科技的进步,其拟人化和智能化水平日益提升,外观、行动和语言也越来越接近人类。我们不得不思考这样一个问题:人工智能在法律上的地位如何?尽管理论界已对此问题展开探索,分别主张赋予智能机器人以法律人格或次等法律人格等,但仍需从理论上彻底明确该问题,这对传统法律中的主体制度造成极大的冲击。人工智能对主体制度的挑战主要表现在两方面:一是应否赋予人工智能法律主体地位,人工智能能否以其身份独立地设立、变更和终止法律关系。二是为了确保人工智能获得合法的法律地位,我们必须清楚地确定其主体类型,因为这涉及它的权利、义务、法律责任、权利能力和行为能力。

(二)对权利制度的挑战

在实践中,人工智能的运用涉及个人信息保护、知识产权保护等问题,反映到理论层面可以概括为对权利制度的挑战。结合当前人工智能在研发、应用与发展过程中产生的法律问题,人工智能对隐私权、知识产权及劳动与社会保障权三类权利造成挑战。

1.人工智能对隐私权的挑战。人工智能对隐私权的挑战主要体现在个人信息收集与安全方面。一方面,随着人工智能产业化应用的推进,智能语音机器人、人脸识别技术、人工智能推荐系统等已经深深融入人类的日常生活,这使得人工智能系统获取数据变得易如反掌,如医疗保健、在线交易、通信以及饮食等个人信息,在人们毫不知情的情况下即被相关的人工智能应用程序频繁收集,此类个人信息收集行为是否合法值得我们深思。另一方面,智慧医疗、智慧教育、自动驾驶、智能家居等人工智能应用的落地在为人类社会带来极大便利的同时,亦使人们极易遭受攻击。攻击者入侵人工智能系统可能导致用户信息泄露,甚至演变为群体性用户信息泄露。如果想要在技术层面预防攻击者入侵人工智能系统,最根本的方法是确保人工智能系统的稳健性。虽然我国一直在积极研发相关安全保护系统,但目前的技术还无法满足实践中人工智能应用程序的安全性要求。如何通过立法保障人工智能系统中的个人信息安全,规范人工智能应用程序的数据收集和使用行为,切实保障用户的隐私权,是当前人工智能带来的又一法律挑战。

2.人工智能对知识产权的挑战。主要的挑战在于如何保护人工智能的创新成果、算法和数据的知识产权。首先,关于人工智能作品的版权维护,其核心是对版权法的挑战,这涵盖了作品的版权所有、版权的运用和权益的约束等问题。要解决这些问题,先要明确权利主体,即机器人能否成为法律主体。除此之外,人工智能创作物是否具有“独创性”亦是值得探讨的问题,这属于权利客体研究范畴。其次,算法被定义为“智力规则”还是“技术方案”,对于其能否获取专利保护至关重要。算法作为人工智能的核心,其是否可以申请专利以及是否应当纳入《专利法》的保护范围及延伸的法律救济将会影响人工智能产业的整体发展。最后,人工智能数据的知识产权保护。当前世界各国对数据(数据库)的保护主要呈现以下三种路径:一是大数据的版权保护路径。此种路径在《与贸易有关的知识产权协定》和我国《著作权法》中都有所规定。二是《反不正当竞争法》的保护路径。此种路径主要用于保护无独创性的数据库。三是欧盟的“特殊权利”保护路径。欧盟于1996年发布《关于数据库的法律保护指令》,建立了关于数据库的“特殊权利”,并在欧盟成员国内实施。数据是人工智能研发、应用过程中不可或缺的要素,因为人工智能是以海量数据为支撑的,机器自我学习和深度思考都需要以大数据运算作为基础,所以,寻求契合人工智能产业发展的人工智能数据知识产权保护方法成为当前需要重点商榷的法律问题。

3.人工智能对劳动与社会保障权的挑战。人工智能技术能够通过实现自动化提高社会生产力水平,这意味着相同生产率输出所必需的劳动力减少。对于我国来说,尽管到2037年,近40%的工作岗位可能会受到自动化的影响,但在这段时间内,现有工作岗位中只有约1/4会真正被取代,而其所创造的就业岗位的比例为38%[2]。目前,无论人工智能是将创造大量工作机会还是造成广泛失业,其必将扰乱就业市场,但我国现有法律法规体系尚无法应对人工智能带来的就业市场革命。尽管我们已经颁布实施了很多关于市场监管、劳动就业方面的法律规定,但是如何保障人类劳动权利,机器人劳动是否应该受到法律保护,机器人是否应该享有合理的工作时间和良好的工作环境等问题仍是法律空白区。因此,需要结合人工智能技术的特点,不断完善劳动与社会保障立法,提前预设人工智能可能带来的劳动影响和变化,为强人工智能时代的到来引发的全球经济变革做好准备。

(三)对法律原则的挑战

平等原则一直被视为社会主义法治体系的核心原则,它强调法律面前人人平等。人工智技术对这一原则的适用挑战也越来越明显,主要体现在两个方面。一是机器人内部的平等原则如何适用。在机器人的内部平等问题上,不同类型、算法、数据、功能、智能化程度的机器人如何能保证在适用法律上平等,这个标准如何界定,它们能否平等地受到相关法律的保护?二是机器人与人类间的平等原则如何适用。如果将人工智能视为一个法定的实体,那么它和我们的法定实体的地位是否一样,它拥有的权益和需要履行的责任是否和我们一样?在人工智能背景下,必须对这些问题做出相应的反馈。

(四)对责任制度的挑战

随着人工智能技术的发展,一些侵权行为也随之发生,比如“杀人”机器人的侵权行为在日本、美国、德国等国家日趋普遍。这些侵权行为的发生,是由人工智能系统的故障和系统本身的缺陷所造成的。这也使得人工智能产品的责任和侵权行为成为全球关注的焦点,人们无法回避且亟须解决。人工智能对责任制度的挑战可以从以下三方面概述:一是责任主体认定方面。法律责任的归属前提是明确责任主体,这涉及人工智能是否拥有法律实体的问题。如果人工智能没有法律实体身份,可以在当前法律框架内处理这个问题。但人工智能从研发到应用涉及人工智能的生产者、设计者、所有者及使用者等,应当由谁承担法律责任,相关法律责任应当如何分配等一系列问题仍然有待进一步厘清。倘若人工智能或特定条件下的人工智能具有法律主体资格,则在现行法律框架内无法确定人工智能的责任能力问题,存在立法缺失。二是归责原则方面。传统归责原则主要以行为人的故意、过失和无过错为核心要素,但这些要素在人工智能系统中难以准确判断。因人类具有完全自主意识,而人工智能系统以算法为运行逻辑,不仅难以判断其中是否具有算法设计者的主观意识,而且如何判断一个计算机系统是否存在故意、过失或无过错也尚无可供借鉴的经验。三是责任形式方面。传统的法律责任形式无法适用于人工智能。传统的法律责任分为人身责任和财产责任,机器人能否承担赔礼道歉、消除影响的人身责任,其是否拥有自身的财产,如何行使支配财产的行为等,都是现行法律无法解决的问题。此外,是否应当创设适用于人工智能的责任形式,例如更换芯片、重新设置算法等问题亦有待斟酌。

三、人工智能的法律挑战的立法应对

全球的法律架构及其相关条例受到了人工智能技术的巨大冲击,这种冲击与当前的法律框架产生了矛盾,使得法律框架的落后性问题再一次浮出水面。在应对人工智能科技进步带来的挑战时,我们应从理念、原则与措施三方面寻求应对方法。

(一)立法理念

面对人工智能发展引发的法律问题,立法回应显然是必要的,相关问题也得到了各国的高度关注。然而,各国在人工智能方面的立法大多是应对性的,也可以称之为“反应性立法”。反应性立法,是指当法律被用于处理当前存在的社会混乱行为。它只是把规范现存的行动和解决现存的冲突视为核心职责,却没有把设计能够彻底消除这些混乱行动和潜在行动的方案视为优先考虑的事项,因此,就形成了一个立法总是针对特定行动的新形态进行管理并不断演化的状态[3]。就人工智能领域的立法而言,即当人工智能应用在实践中出现问题且传统法律体系无法规制后,再从具体场景出发,试图以较低层级的法律法规对承担各种特定功能的人工智能产品加以规制,确保相应规则具有科学性、合理性、可行性。此后,将具体规则抽象化为一般规则,从而形成人工智能的相应立法。此种“实践问题观察-具体场景应对-抽象规则制定”的回应性立法理念势必导致立法进程滞后于技术发展。由回应性立法理念转变为前瞻性立法理念是解决人工智能时代的立法滞后问题的首要前提。人工智能时代的前瞻性立法理念要求立法者在系统论的理论指引下,结合科技发展的现状,深入调研高新科技对现代社会的影响,充分把握科技的发展规律以及社会的现实与潜在需求,进而提炼出具有普适性与法理学意义的法律问题,再通过立法加以规制。因此,人工智能的发展带来的不仅是科学技术的创新,也是经济模式的变革,更是社会价值观的重构。

(二)立法原则

1.安全原则。人工智能技术的研发与应用具有复杂性,涉及数据、算法等,在各领域的应用越来越广泛[4]。因此,确保人工智能的安全性对于个体、社会乃至人类都具有重大意义。理论层面,学界已经认识到在人工智能时代,遵守安全准则的重要性。吴汉东认为,在人工智能的背景下,安全被视为主要的法律价值,它的作用在于保障社会的稳定性,这也是相关法律机构的目标。这种目标可以通过各种不同的体系或者调节手段达成。比如,刑法、行政法利用刑事责任或者行政责任的形式确保社会秩序的安宁,而民法则利用侵权法确保商业和财产安全[5]。实践层面,安全原则在科技企业中体现得尤为明显。如微软公司提出“隐私与安全原则”,谷歌公司提出“保障建立与测试中安全性原则”,腾讯公司提出“可控原则”,百度公司提出“人工智能的最高原则是安全可控”等。因此,有必要将安全原则作为人工智能时代的立法原则。按照该原则,立法者在立法进程中应当确保相关条款能够维护人工智能的安全,不仅是人工智能技术的安全,还要确保人工智能的应用与发展不会影响个人的生命财产安全和国家安全,不得危害社会经济和文化安全、环境安全。

2.协同原则。人工智能的发展离不开协同性的资源配置和运行合作。人工智能开发和应用需要的协同,包括基础方面的协同,如数据协同、平台协同、管理协同,也包括具体应用功能和主体的协同,还包括人机协同,等等[4]。在私法领域,协作关系体现在权力、义务和责任的划分方式中。以数据为例,数据作为人工智能的“营养”,其收集与利用会直接影响人工智能的发展,但数据的合法取得和权属与个人隐私保护存在冲突与协调问题,需要在立法过程中进行巧妙的制度协同设计,平衡各方当事人的利益,其中也包括立法、行政执法以及司法部门的协同。在公法层面的职责落实上,政府通过嵌入人工智能应用,减少信息不对称,实现扁平化的智能治理。在此过程中,个人数据隐私保护可能与政府权力行使、职责履行存在冲突。因此,各方面应高效协同联动,实现人工智能时代的多元共治的社会治理。在社会法的劳动关系、社会保障、特殊群体权益保障以及社会组织的架构上,人工智能可能导致大规模的结构性失业的问题,我国劳动法需要前瞻性地进行立法预防。劳动法已经超越了传统的范畴,它不仅要求我们在处理劳动关系时遵循人性化原则,还应从保护公众的合法权利和未来的发展趋势出发,探索如何实现人与机器的和谐共存。

3.创新原则。随着第四次科技革命在世界范围内的展开,以互联网、大数据、人工智能、5G等信息科技及其融合应用等为标志,“四新”的原创性突破正在开辟新的发展方向,甚至会引发颠覆性变革。对于我国而言,当前正是实现“弯道超车”的难得的历史机遇。人工智能技术的研发与发展作为国际竞争中抢占制高点的核心要素,已经受到我国的高度重视。早在2017年,我国就发布了《新一代人工智能发展规划》,以推动人工智能技术的发展,并将“提升新一代人工智能科技创新能力作为主攻方向”,力争到2030年,使中国成为全球最具创新力的人工智能中心。因此,立法工作必须与国家对于人工智能创新的策略相一致,我们不只需要加速对法学理论的创新,并且需要对适应人工智能的法律价值进行重塑,还需要促进法律体系的创新。

(三)具体措施

1.成立人工智能立法工作组。欧盟在人工智能立法上取得的成就与其成立了专门的人工智能高级小组有直接关系。该高级专家小组主要针对与人工智能相关的中长期挑战和机遇提出建议,且相关建议将被纳入人工智能政策制定流程、立法评估流程及欧盟数字战略的制定。为加快我国人工智能时代的立法修法工作,有必要成立专门的人工智能立法工作组,集中优势资源对关系国家与民生重大利益的人工智能法律难题协同攻关,保障国家安全,促进行业发展,降低人工智能的负面影响。根据人工智能立法工作组提出的建议,国家可以制订人工智能的专项立法修法计划,动态跟踪实践问题和及时立法修法,适时进行立法解释和司法解释,利用立法技术为可能产生的新问题留下解释和适用空间。

2.设立人工智能的试验性立法先行试验区。尽管前瞻性立法是必要的,但是在未能充分把握人工智能技术的发展规律及其对人类社会可能带来的深刻影响的前提下就匆匆立法是不科学的。综观世界各国对于人工智能的制度回应,大多采取政策引导、粗放式立法模式。通过试验性立法,可以更好地构建人工智能法律体系,这不仅可以帮助政府收集信息、积累经验,从而更加主动地调整人工智能相关法律,还可以为相关理论的研究和改进提供科学的理论支撑[6]。因此,可以选取几个人工智能技术发展较好的地区作为先行试验区,在遵循人本主义核心理念的基础上,对人工智能技术研发、应用中的各方主体的权利义务及责任进行立法试验。在试验性立法前,有必要采用实验分析模型来判断其可行性并预测实施效果。在试验性立法期届满前,应当就立法的实施效果进行全面科学的评估,并基于评估结果作出相应的立法决策。

3.以智慧立法保障科学、民主、依法立法。互联网、大数据、人工智能融入和推动科学立法、民主立法、依法立法,是时代大势[7]。以科技赋能立法工作,建立健全以大数据、人工智能等技术为核心的智慧立法系统有助于加快立法进程。在科学立法层面,主要是运用大数据和人工智能对立法实践经验、相关立法的争议关键点、相关司法判例等进行梳理、对比,并通过引入结构方程模型分析法、SWOT矩阵分析法、贝叶斯网络分析法等对相关问题进行分析,建立系统模型对法律实施效果进行预评估。在民主立法方面,可通过在互联网平台设置意见征集渠道,广泛征集各方意见,之后运用大数据汇总意见和生成分析报告,切实推动民主立法。在依法立法方面,主要是运用大数据、人工智能等技术实现对立法草案的上位法的智能检索和预警,防止与上位法冲突。同时,实时动态审查已有的立法是否与新通过的上位法相冲突,以现代化手段高效、便捷实现依法立法。

4.多元规范共治破解立法滞后现象。随着区块链技术的发展,一种新的、具有共识性的自治模式正在出现,它不仅可以取代传统的自治章程、村规民约、居民公约,而且可以将法治、德治、自治有机融合,从而形成一种更加完善的自治体系。区块链可以弥补法律的不足,或者与之相辅相成。然而,两者都存在各自的管理限制,应将它们有效整合起来,这种整合可以通过将法律转化为代码的方式来完成[8]。区块链技术通过将数据加密(state machine)来保护数据的安全性、完整性和准确性。任何未经授权的人都不能篡改数据,除非他们已经获得50%以上的网络节点的授权。区块链技术不仅可以提供一种新型的数据存储方式,而且可以在没有任何中介机构或清算系统的情况下实现自动化。现代区块链技术具有极强的安全性和稳定性,它支持大规模的代码文件,可以实现快速、安全的传输,极大地减少了人工成本。通过将代码应用于合同,可以有效地维护双方的信誉,并且让智能合约可以独立运作,既可以极大地提高交易的效率,又可以降低传统合同的不确定性。虽然智能合同也需要被编程,但它们与第三方或者中立的区块链系统不同。智能合约具有卓越的可扩展性和灵活性,用户可以轻松地调整或修订类似的协议,而且,区块链技术不受中央服务器的限制,无论在何处,都可以实现跨越地域的传输[9]。将智能合约部署到分布式节点网络中,不仅可以有效降低被提起诉讼的风险,而且可以提前实施技术规范,加强对代码的管控,因此,区块链技术可以更有效地保护当事人的权益,更好地执行法律规则。在重新审视法律的过程中,必须深入思考以下关键性问题:一是科技的进步可能会对法律的定义产生影响,但它们无法替代立法机构在制定法律时所需要的民主讨论,以确保法律的公平、合理、有效。二是采用最前沿的软件技术,不仅有助于立法者更有效地审核和修正法律条款,而且也能够激发人们的创造力。采取先进的立法手段,能够极大地降低法律的模糊性,避免出现任何形式的歧视。三是智能合约虽然可以有效地处理复杂的交易,但是为了保证其准确性,许多交易活动都必须建立在真实的社会和政府框架之上。四是通过编写代码,可以有效地将法律与合同条款融为一体,从而达到最佳效果。立法者应该努力将法律规范扩展到更广泛、更灵活的领域,以满足社会各阶层的需求。

法律的价值不仅仅表现在它的参与程度和覆盖面上,更多的是通过保持社会的稳定,推动社会的安定、高效、协调,以此来实现相应功能,并突出它的关键性[10]。多元共建、共享、共治的观念,主张在法律的框架下,通过多样化的规则来协同管理,这种方式为网络社区带来了一种特殊的价值指南,从而推动社会的和谐与稳定发展[11]73。