人工智能背景下刑法的挑战及应对

华南农业大学人文与法学学院 梁颖欣，梁雅淇

大数据和人工智能技术迅速发展是科技进步和发展的必然结果，人类已然迈入人工智能时代。2017年7月8日国务院印发了《新一代人工智能发展规划》，进一步明确了我国新一代人工智能发展的战略目标，将发展人工智能技术上升为重要国家战略。随着人工智能的发展，其在国内外被运用于诸多领域，尤其是法律领域，在法律文书写作、法律咨询、案情预测以及案件审理辅助等方面。然而，人工智能是一把双刃剑，在给社会发展带来便利的同时也产生了无法预计的风险，刑法在人工智能发展和运用的过程中必然会受到影响，因此对于人工智能背景下可能出现的对刑法的挑战需要进行探讨，从而提出相应的应对策略。

一、人工智能概述

（一）人工智能的概念

人 工 智 能（Artificial Intelligence），英文缩写为AI。人工智能最初是由麦卡锡在1956年提出的，但当时并没有对人工智能作出详细的定义。后来，“人工智能之父”马文·明斯基指出，人工智能是指一门建立在其可以模拟人类的前提下，利用编程语言和理论模型来帮助解决人类的现实问题，并提高人类解决相关问题的能力的科学。也有其他的说法，称人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

由此可见，对于人工智能的定义，在学界尚未形成统一的意见，不同的学者有不同的理解。但无论如何，人工智能与人类有着密切联系、不可分割，这一点无需质疑。

（二）人工智能的分类

当下，关于人工智能的分类，参照不同的分类标准有不同的分类方法，其中获得较多学者认可的方法有“二分法”“三分法”和“四分法”，科学界关注较多的是“四分法”。由于法学更多考量行为人是否具有独立的思考、辨认和控制能力，因此法学界多围绕“二分法”对人工智能进行讨论[1]。

1.弱人工智能

弱人工智能是指没有自主意识和自我认知功能的人工智能系统与方法，并没有真正推理和解决问题的智能机器[2]。弱人工智能是目前人工智能领域主要研究的内容，但其智能范围较窄，只擅长于某一特定领域，是执行人类所赋予的指令的机器。当年战胜世界围棋冠军的“阿尔法狗（AlphaGo）”便属于弱人工智能体，日常生活中的人脸识别系统以及智能家电的计时等也属于弱人工智能机器。

2.强人工智能

强人工智能是指能够思考和解决问题的智能机器，具有高度的自主性[3]，这种类似人类级别的人工智能。相比弱人工智能，强人工智能的职能范围较宽，可以涉及多个领域。强人工智能知道自己在做什么，能够自主思考、自主处理事务，它不一定会按照人类预先设定的指令来运行，而是会根据不同的情况作出决定。目前强人工智能体并不多，但随着科技的发展，强人工智能的增加是必然的，提前预见和对其进行国内外研究的总结思考十分必要。

二、人工智能背景下刑法面临的挑战

（一）刑事责任主体资格的认定

关于弱人工智能的刑事责任主体资格认定。由弱人工智能的概念可知，弱人工智能机器人受控于人类所设计的程序，其对所实施的一切行为都不具有独立的意识，也不具有自我认知功能，其本质只是使得人类工作和生活更便利的机器。因此，弱人工智能机器人不应当具备刑事责任主体资格，其本身并不满足刑法所规定的刑事责任主体具备的条件，这一点在学界几乎没有争议。关于强人工智能的刑事责任主体资格认定。自强人工智能出现以来，在学界一直存在争议，主要有肯定说、折中说和否定说三种观点[4,5]。笔者认为，强人工智能机器人可以作为刑事责任的主体，主要原因有以下几点：第一，当强人工智能机器人发展到一定阶段时，可以脱离程序自主实施犯罪，这满足了实施严重危害社会的行为的要件。第二，是否具备刑事责任能力主要看两个方面，即年龄和精神状况，这两个方面都是以自身的辨认能力与控制能力为标准来衡量的。因此，能否成为刑法意义上的刑事责任主体取决于行为人对自己的行为是否具有辨认能力与控制能力。最后，虽然现行刑法对人工智能体自主犯罪未作出规定，但违法必究，一旦强人工智能机器人实施了犯罪行为，就应当承担刑事责任。综上，强人工智能机器人符合构成刑事责任主体的条件，应当具有刑事责任主体资格。

（二）传统犯罪更复杂多变

人工智能在生活中的运用愈发多元化，人工智能可以使得产品智能化，也能使得犯罪工具和犯罪手段智能化[6]。在互联网、大数据等新技术发展的今天，传统犯罪的行为模式也因此发生改变，犯罪方法和手段更加多样化，风险性越来越高。以最常见的信息收集为例，相比其他方式，线上收集信息是最便利的。在人工智能时代，获取信息的时间是极短的，只要填写人将资料进行上传，这些资料就会集中在一起。用于工作固然是便利的，但一旦人工智能技术被不法分子利用或者人工智能机器人产生自主意识实施犯罪，所收集的信息就会被窃取或泄露，人们的信息安全得不到保障，长期下去更是会扰乱社会秩序，引起恐慌。

（三）出现新型犯罪，危害性难以预测

1.弱人工智能体被人利用，用作犯罪工具以实施犯罪

现今，人工智能体仍处于低级阶段，其仅能够执行人类所设计的指令，无法辨认人类所输入的指令是否具有危害性。2019年3月，有犯罪分子使用基于人工智能的软件模仿一家英国能源公司首席执行官的声音，骗取其下属22万欧元。在我国首例利用AI人工智能犯罪案中，亦有人利用人工智能的自主识别能力，非法获取公民的个人信息后大量贩卖。国内外大量出现的新型人工智能犯罪，在大多数情况下，是利用弱人工智能体的识别能力、改造能力等，将其作为犯罪工具，以实现犯罪目的，这是对犯罪客观方面的挑战。

2.研发人员或使用人员对弱人工智能体的监督义务未履行导致过失犯罪

对于弱人工智能体而言，研发人员和使用人员是其发明主体和使用主体，这两个主体对弱人工智能体有监督义务，以防出现危害社会的行为。弱人工智能体仍存在许多缺陷，如研发人员或使用人员未履行对弱人工智能体的监督义务，导致弱人工智能体出现危害社会的行为，开发者和使用者在主观上存在监督的过失，应构成过失犯罪。以无人驾驶为例，美国推出目前为止第一部也是唯一一部自动驾驶汽车法案—《联邦自动驾驶汽车政策指南（FAVP）》，德国联邦参议院在2017年6月颁布了《道路交通法》（第八修订案），明确了使用自动驾驶系统时驾驶员所具备的权利以及需履行的义务。但我国现行刑法以惩罚故意犯罪为原则，惩罚过失犯罪为例外，且目前对弱人工智能体开发者和使用者的监督义务未进行明确规定，因此很难追究研发人员和使用人员的监督过失责任。长此以往，弱人工智能体所产生的危害后果将难以计量，对社会的危害将越来越大，这不利于保护受害人的合法权益和维护社会公平正义。

3.强人工智能体在自主意志的支配下实施犯罪

虽说现阶段的人工智能体以弱人工智能体为主，但在科技高速发展的今天，强人工智能体的出现是社会发展的必然结果。由前述可知，强人工智能体具有自主意志，从某种程度上看，与人类几乎没有区别。强人工智能体完全脱离人类的控制，在自主意志的支配下实施犯罪，是无法归责于研发人员或使用人员的，而按照目前的刑法规定，也无法将其定罪。现行刑法规定的犯罪主体仅仅是自然人和单位，未将强人工智能体纳入其中，这就难以对强人工智能体的违法行为进行规制，这对于将来强人工智能体犯罪的责任追究有一定的难度。

三、人工智能背景下刑法的应对策略

（一）明确强人工智能体的刑事责任主体地位

由前述可知，强人工智能体在经过深度学习后，能够具备独立意志和自我意识，甚至有可能按照自己的意志实施犯罪，此时强人工智能体已经不再是机器，它具有了法律意义上的刑事责任主体地位。强人工智能体的出现是必然结果，而强人工智能体是否存在犯罪的可能性则取决于其学习的内容。如果未来的某一天强人工智能体实施了犯罪，而刑法中没有任何规定，它就可以凌驾于法律之上，利用法律的漏洞继续犯罪。要想防患于未然，就要对强人工智能体的犯罪行为进行有效规制。因此，在刑法中应当明确强人工智能体的刑事责任主体地位，将强人工智能体增加到刑法所规定的刑事责任主体当中，将强人工智能体刑事犯罪纳入刑法的规制范围。

（二）增设与人工智能相关的罪名

近年来，人工智能犯罪事件层出不穷，而现行的法律在这一方面有所欠缺，目前也没有任何国家将人工智能犯罪写入本国刑法之中。但欧美地区一些国家已经开始进行对人工智能立法的相关探讨，欧盟早在2016年就已发布《欧盟机器人民事法律规则》，虽然是一个民事法律规则，但其中对人工智能的研发和审查人员制定了规则，并赋予了复杂的自主机器人以法律地位的可能性，这为日后制定专门的人工智能犯罪刑事法律规范打下了基础。为对人工智能犯罪进行有效的规制，切实保障社会与公众的利益，我国应当借鉴英美法系国家的相关规定，增设与人工智能相关的罪名。对于弱人工智能犯罪，可以增设滥用人工智能产品罪[7]，以防止当事人故意利用人工智能机器人实施犯罪，具体的定罪量刑可以参考刑法中已有的类似罪名。另外，还应当设立人工智能重大责任事故罪[8]，以防出现研发人员或使用人员未尽到监督义务导致过失犯罪的情况，一旦由于监督过失导致数据泄露或其他更严重的危害，其危害难以磨灭，控制人工智能的主体应当承担较重的责任，更应该受到刑法的规制。

（三）增设刑罚处罚的方式或程序

人工智能体存在的基础是程序，对于程序可以进行数据删除、修改以及永久销毁。永久删除人工智能体犯罪时所依赖的数据，相当于删去了人工智能体犯罪的工具，人工智能体无法再利用这些数据实施犯罪，但这远远不够。随着人工智能体段位的提升，找回已删除的数据并不困难，而找回数据的过程属于程序，对程序进行修改才能够较为有效地阻止人工智能体犯罪，也可以通过对程序的修改引导人工智能体学习正面的、积极的数据。对于强人工智能体而言，前面两种处罚措施都没有太大的效果，因为此时强人工智能体已经产生了自主意识，哪怕是删除数据和修改程序也很难阻止其再次犯罪，故采取永久销毁的方法来对强人工智能体的犯罪进行永久性处罚是最合适的。

四、结语

当下，社会正处于人工智能时代，归根结底，人工智能与人类传统认知存在一定的偏差，传统的刑法规定存在一定的滞后性。要在坚持刑法基本原则的同时，结合社会现状，通过对比研究国内外对于人工智能犯罪的研究和探索，以实现立法观念的更新，从而更好地对相关的定罪量刑适用进行一定的调整。否则，随着人工智能的发展，刑法的持续落后会导致人工智能犯罪无法得到规制，社会和公众的利益无法得到保障，整个社会都会陷入困境。