人工智能犯罪刑事责任基础研究

赵 东

(河北经贸大学 法学院，河北 石家庄050061)

一、人工智能犯罪研究综述

自1956年美国计算机专家约翰·麦卡锡提出“人工智能”(AI)一词，经过60多年的发展，以工业、医疗、教育等多个技术领域为代表的第三次人工智能浪潮席卷全球。2017年7月20日，国务院发布的《国务院关于印发新一代人工智能发展规划的通知》中明确指出，要“开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等”。人工智能是运用机器手段应对外在复杂的人类社会，面对开放世界随处可遇的偶然性和不可预知性，技术应用系统的建设固然是先决条件，与之相配套的法律体系的建构则是其健康发展的重要保障。通过分析人工智能犯罪的性质和特点，重新界定人工智能语境下犯罪的主观罪过特征、客观行为模式、主体人格要素、刑事归责原则和刑罚体系建构，从弱人工智能到强人工智能，再到超人工智能，有助于为以人工智能为代表的风险社会提出前瞻性的刑法应对措施。

从国内研究的总体状况来看。随着国家对人工智能技术的发展规划，近年来，国内人工智能法学的研究蓬勃发展，在涉人工智能刑法问题方面的研究也取得了不少成果。从总体上看，国内的研究大体包括人工智能犯罪对传统刑法的挑战、面对人工智能犯罪刑法的应对策略、人工智能犯罪的刑法立法问题三个方面，其中，研究主要集中在前两个方面，相对而言，第三个方面研究得还不多。

从国内研究的具体内容来看。比较全面地研究人工智能犯罪刑法问题的是刘宪权。在人工智能犯罪对传统刑法理论的挑战上，刘宪权分别从“质”和“量”两个方面论述了人工智能技术导致犯罪行为的社会危害性产生变化，并根据智能机器人的自主能力不同，认定其辨认能力和控制能力，进而确定其承担刑事责任的能力和范围，与此相适应，提出重构我国的刑罚体系，依据智能机器人犯罪的特点增设删除数据、修改程序、永久销毁等刑罚措施[1]。在涉人工智能犯罪的刑法规制上，刘宪权以“智能”为核心，深入分析了弱人工智能和强人工智能犯罪刑法规制的具体路径以及对涉人工智能共同犯罪的构成和认定。在人工智能时代刑罚体系的重构上，刘宪权系统分析了人工智能受刑罚处罚的法理基础，分析了现行刑罚体系处罚人工智能犯罪的局限性，提出了删除数据、修改程序、永久销毁等刑罚措施，并建议在时机成熟时增设针对人工智能犯罪的财产刑和权利刑。袁彬分别从事实、政策、技术三个方面对人工智能的刑法主体地位进行了反思，并对“删除数据、修改程序、技术销毁”等技术性刑罚措施提出质疑，认为其无法深入人工智能的自我意思决定，导致行政违法与刑事犯罪不分，在一定程度上展开了人工智能刑法问题的理论争讼[2]。吴允锋根据人工智能在侵财犯罪中的不同作用，对涉人工智能的盗窃罪、诈骗罪存在的问题进行了深入的分析，对人工智能时代侵财类犯罪的刑事立法分别从总则和分则两方面提出了具有启发意义的见解[3]。与上述观点不同，理论上也存在否定人工智能犯罪的观点，时方就认为，人工智能并不具有法律意义上的人格属性，缺乏认定为刑事主体所必须的以认识要素和意志要素为内容的意志自由，也并不具备与法人相类似的能够成为刑事主体的运作机理，从根本上否定了人工智能成为刑事主体的可能性[4]。

由于人工智能技术的发展程度不同，相对国内而言，国外发达国家涉人工智能犯罪的案例比较多，从美国的自动驾驶汽车致人死亡到日本的工业机器人伤人，再到英国的手术机器人发生医疗事故致人死亡等，不一而足。从理论研究的现状来看，国外学者对人工智能涉刑法问题的研究，大多根据人工智能技术的新特点，立足于传统的刑法理论，去分析、研究和解决人工智能犯罪所产生的新问题。例如：美国学者达菲尼·利马从传统刑法理论中的行为、因果关系、人格、归责等几个不同的范畴系统研究和分析了人工智能犯罪对传统刑法理论所带来的挑战和冲击，并根据不同的情况，分门别类地提出了追究人工智能犯罪刑事责任的选择方案[5]。萨比娜·格雷斯和托马斯·魏根特合著的《智能代理与刑法》一书中讨论了人工智能能否构成侮辱、诽谤罪的问题[6]。赛宾·格莱斯在讨论自动驾驶汽车的刑事责任时，指出人的自我反省与自我意识的能力是人之为人的全部意义，而人工智能目前还不具有这个水平，因此，对其犯罪的刑事归责还存在很多问题[7]。加布里埃尔·哈利维则讨论了自动驾驶汽车的犯罪意图与实行行为之间的不匹配问题，认为可以运用可预见性和实际发生的犯罪的归责理论去确定自动驾驶汽车的刑事责任[8]。

二、人工智能犯罪的客观行为模式

(一)弱人工智能的客观行为模式

人的行为可以分为“智能的”行为比如想象、推理和“非智能的”行为比如听觉、视觉，二者都是为了实现目标的行为技能[9]1。人工智能就是通过计算机编程与建模、人工神经网络、深度学习等技术掌握智能行为技能，通过红外感知、电子雷达等技术掌握非智能的行为技能，最终将两者结合在一起成为人工智能体。所谓弱人工智能、强人工智能和超人工智能的划分，本质上就是“人工智能行为技能”和“人工非智能行为技能”相结合的紧密程度。具体而言，在弱人工智能中，其实施的客观行为构成中的“智能行为技能”完全依附于人通过编程的提前程序设定，决定了其对外面产生影响的行为无法超出人为给定的“智能设定”，换言之，在弱人工智能的客观行为模式中，主导客观行为的不是机器智能本身，而是人类智能，这是问题的一个方面。另一方面，受制于技术的限制，弱人工智能当中的人类智能，只是人类“智能和非智能行为技能”中的某一种，或者某一类技能，例如：自动驾驶、智能办案、智能医疗等。在非智能的行为技能层面，弱人工智能也仅仅是对人类五官、四肢的视、听、说、外在动作等行为功能的简单功能模仿。易言之，弱人工智能的客观行为模式可以表达为：生理功能性智能行为技能+物理动作性非智能行为技能=弱人工智能行为模式。

(二)强人工智能的客观行为模式

强人工智能已经具备了和人一样的智能，从而形成了类人的“机器智能”，在这里，原本作为人类独有的“智能行为技能”的想象、推理等内容，已经演变成“非属人”的智能存在，而要实现这一切，必须建立在计算机超级的计算速度和人工神经网络技术高度发达的基础上，从这个意义上说，机器已经与人并立，作为独立的智能存在。与此同时，在非智能的行为技能上，强人工智能也不再局限于对人类器官某一类特定功能的简单模仿，而是在功能上具有全面性、复杂性，在具体应用场景上，可以在类人思考的机器智能的指挥下，随时执行不同的非智能行为技能以适应不同的场景，换言之，强人工智能在智能行为技能与非智能行为技能两个层面都可以与人类并列。强人工智能的客观行为模式可以表达为：类人思考的机器智能行为技能+复杂仿真非智能行为技能=强人工智能行为模式。

(三)超人工智能的客观行为模式

未来可能出现的超级人工智能已经具备了独立思考的能力，这种独立思考，已经不是简单地模仿人类思维，也不在于超级的计算速度，而是人工智能已经具备了独立复杂的智能认知模块，能够进行复杂的语言呈现、长期规划或者抽象思考等，其建立在计算机超级计算速度，人工神经网络和深度学习等技术的无限发展空间基础之上，超级人工智能在非智能的行为技能上将全面超越人类，超越人体功能的限制，实施绝大多数人类无法实施的行为。超人工智能的客观行为模式可以表达为：独立思考的机器智能行为技能+超人类非智能行为技能=超人工智能行为模式。

从行为模式的角度来看，弱人工智能在智能行为技能(大脑)和非智能行为技能(肢体)两方面还仅仅停留在简单的功能性模仿，不仅如此，这种功能性模仿也仅仅局限在某一种功能、某一个领域内，由此可见，弱人工智能的客观行为对外部产生的影响纯粹是功能性的，由这种功能性的影响所产生的后果责任，还不能深入到作为人工智能载体的机器本身，而只能追溯到设计、设定这种功能的人。对强人工智能而言，在智能行为技能上，其已经具备了与人类思考高度相似的属性，进而也就决定了它对人类非智能行为技能的模仿不再仅仅是功能性的，而是包含了类似人的目的性的高仿真的肢体行为，因此，强人工智能所实施的客观行为所产生的后果责任，既有作为人工智能载体的机器本身的仿真目的层面的支撑，又不能完全脱离人工智能产品的制造者、设计者的原初设计目的。未来的超人工智能已经在智能性行为技能和非智能性行为技能两个方面完全独立于人类，不仅如此，在思维认知，特别是肢体功能上都全面超越了人类，换言之，超人工智能的客观行为模式，以及支配、指挥这种模式的思维实体，已经完全脱离了它的制造者和设计者，因而，由它实施的客观行为所造成的后果责任，只能诉诸作为超人工智能载体的机器本身。

三、人工智能犯罪的主观罪过特征

(一)人工智能犯罪主观罪过概述

众所周知，现代刑法体系实为刑事古典学派(旧派)所建构[10]11，刑事古典学派的犯罪论体系是以思辨哲学的“自由意志”作为逻辑起点的，显然，只有作为理性的社会人才具有自由意志，即便是随着经济社会的发展，基于规制现实经济生活需要而产生的法人犯罪，也不得不承认其在主观方面还是基于单个人自由意志，以集体罪过的拟制作为刑事归责的基础，易言之，作为犯罪论核心要素之一的主观罪过必须以行为人具有自由意志为逻辑前提，很显然，在人工智能犯罪中这一逻辑受到了挑战，在这里，作为自由意志载体的自然人主体被智能机器所取代，那么能不能说，智能机器，特别是具有强人工智能水平的智能机器虽然不具有自然人的肉体存在，但具备了和自然人一样的自由意志的实质内容呢？这里需要进一步讨论的问题是，自由意志的实质内容到底指的是什么？如前所述，一般认为，所谓自由意志，其实质内容是一种选择能力，但是，动物也会选择，作为人的自由意志实质内容的选择能力，是一种基于理性的选择能力，这种“理性”的具体要求是，选择主体清楚地知道自己选择所造成的或者可能造成的后果，并由此将要承担或者可能承担的责任，这才是“理性选择”的根本内容。人工智能体的选择本质上是建立在大数据分析的基础之上的最优解，其只能对可数字化的自然对象进行分析选择，但是，当这种分析选择出现偏差造成了严重后果时，对其所要承担的责任这种规范的价值评价而言，智能机器人是意识不到的。再有，自由意志只是行为人承担刑事责任的生理基础，而非法律根据，即便是人工智能具有自由选择能力，作为机器智能体，它也无法清楚地意识到这种选择所面临的后果，即无法达到承担刑事责任的主观罪过的法律根据——明知的知识内容。易言之，在现有的犯罪论体系框架内，人工智能体具有选择能力，但尚不具有“理性选择”这一作为自由意志的实质内容，那么，建立在自由意志基础之上的主观罪过至少也是存疑的。

(二)人工智能犯罪主观罪过的理论争讼

人工智能犯罪的主观方面在刑法理论上究竟是否存在，或是说是否具有讨论的意义，目前在刑法理论中还存在着一定的争议，在强人工智能与弱人工智能分类的前提下，弱人工智能犯罪中主观方面并不存在争议，以制造者、使用者的主观为准即可。人工智能犯罪主观方面的理论争议主要集中于强人工智能其是否存在主观方面，并据此是否成立可归责之主体，存在较大的分歧，主要有肯定说与否定说。

肯定说主张，在人工智能犯罪中，强人工智能机器人存在主观方面，其属于“可归责的主体”。有的学者笼统地对人工智能机器人主观所具有的辨识与控制能力予以承认[11]，有的学者则具体地指出，当强人工智能在程序设计和编制范围外实施严重危害社会的行为时，强人工智能具有辨认与控制能力[12]。还有的学者转化思路，在人工智能主观方面的证成中另辟蹊径，通过借鉴刑法中法人人格的拟制制度，以求拟制人工智能犯罪主体，并在此基础上确定人工智能机器人特殊的“主观方面”[13]。可以看出上述的观点都具有一定的合理性，但是都还处于一个探索的阶段，其理论略显稚嫩和单薄，但学者们为此所作出的努力应当得到肯定。

否定说主张，在人工智能犯罪中，强人工智能机器人不存在主观方面，其不属于“可归责的主体”。有学者主张，强人工智能在主观方面不存在故意这一形态，只存在过失，并以修正的过失犯理论为依据将强人工智能因自身原因所引发的危害后果作为“可容许的风险”，在设计者、利用者和贩卖者之间分配过失责任[10],此种观点可视为部分否定。也有学者从社会综合的角度出发，认为目前人工智能技术并不成熟，社会整体价值观对人工智能机器人的接受程度有限，同时在强、弱人工智能机器人的认定标准方面尚缺乏具体的标准，在目前不适宜承认强人工智能机器人具有主观方面，进而承认其刑事责任主体地位[14]。

(三)人工智能犯罪主观罪过肯定说面临的挑战

一方面，人工智能技术的发展远超于相关立法完善的速度。人工智能技术的发展日新月异，从大数据到区块链，从普通智能机器人到弱人工智能机器人，其更新换代的速度让人应接不暇，从“围棋大师”AlphaGo到人类公民机器人索菲亚，飞速发展的人工智能不仅为我们的生活带来了更多的便利，同时也带来了对刑法的挑战。神经网络技术的发展使得人工智能机器人的自我认知能力与自我控制能力逐渐接近人类甚至是超过了人类，这使得人工智能机器人与人类之间在“意志”方面的差异逐渐被抹平。现实中人工智能犯罪的数量呈现上升趋势，但目前刑法层面还未能对人工智能犯罪作出合理规制，使得刑法一直在追赶人工智能技术，如此一来，刑法的规制效果将大打折扣。

另一方面，与传统刑法主观理论难以融合。传统刑法理论中的刑事主体包括自然人和法人，其中自然人刑事责任承担的理论基础在于自由意志，法人刑事责任承担的理论基础在于集体意志。一般认为，人工智能技术作为一种辅助手段其不具备成为刑事主体的资格，但现今人工智能单项技术已经表现出了像人工智能“机器人”转化的趋势，换言之，即某些人工智能单项技术不具备“机器人”的外形，但具备“智能机器人”的实质，即具备了自主学习能力。但此种人工智能机器人在刑法中目前并无其合理位置。若要想将其作为刑事主体予以规制，那么必然涉及对传统刑法主观理论的解释或创新。

(四)强人工智能犯罪主观罪过的赞否两论

在犯罪主观方面不同于弱人工智能已经形成较为统一的观点，强人工智能犯罪是否存在主观方面仍具有较大争议。不同于上述笼统的肯定说和否定说，对强人工智能犯罪是否存在主观方面这一问题更需要从法律层面、哲学层面、生物学层面以及神经科学方面予以深入探讨。

否定强人工智能犯罪具有主观罪过的观点认为，强人工智能难以具有自主意识，其实施危害行为时并非基于自由意志，而是基于算法。其主要理由如下：首先，人类意识过于复杂，仅仅依靠数学运算难以完全模拟出与人类相同的“意识”。不可否认，强人工智能具有较强的自主学习能力，对自身行为具有一定的辨认和控制能力，但在人类情感中还有计算机所无法模拟的情感，例如本能、欲望和直觉等。其次，目前并未出现严格意义上强人工智能，谈论该问题并不具有实际意义。由于人工智能目前仍主要处于弱人工智能的发展阶段，在强人工智能研发的过程中存在众多的关键技术难以解决，如人类神经系统的模拟。目前所发生的人工智能犯罪也都仅限于弱人工智能犯罪，并未出现强人工智能犯罪，就目前来看，强人工智能的发展还有很长的一段路要走，因此谈论强人工智能犯罪是否存在主观方面不具有任何现实意义。最后，从刑罚必要性的角度来说，不管对强人工智能采取销毁或是更改程序等措施都难以对其产生特殊预防的效果。特殊预防的目的在于改造犯罪主体的“思想”，但目前所提出的对强人工智能的处罚措施均无法达到这一效果，在无相关配套处罚制度的前提下贸然承认强人工智能犯罪存在主观方面并不合适。

赞成强人工智能犯罪具有主观罪过的观点则认为，强人工智能具有自主意识，当其基于自主意识实施危害行为时自然存在其犯罪的主观方面，且强人工智能犯罪存在主观方面具有哲学、法律以及生物学基础。首先，在哲学基础方面，“意识”这一概念在哲学层面尚且存在争议，不加详细考证就贸然根据直观感受认为强人工智能不具有“意识”是草率的。事实上，近三十年来神经科学的发展意识理论日新月异，如里贝特的时空理论、埃尔德曼的动态核心理论、托诺尼的信息整合理论、汉弗莱的感觉演化理论等[15]。这些理论对于意识的本质都有着不同的认识，在意识本质尚存在争议的情况下贸然去谈论其他主体是否存在意识是不妥当的。或许正如哲学家所说的那样，人也只不过是一台有灵魂的机器而已。为什么我们人可以有智能而普通机器人就不能有呢？数据转换机器是可能有思维和意识的[16]232。其次，以没有实际意义为由否定强人工智能犯罪存在主观方面更是无稽之谈。强人工智能犯罪是否存在主观方面是客观存在的，其并不会以人类的看法而转移，以没有必要认识而否定其客观存在性是一种逃避行为，不是正确的研究态度。最后，神经科学的飞速发展使得强人工智能存在主观意识在未来是可预见的。现代数学和计算机科学已经试图通过算法信息理论将复杂的意识过程简单化，达到解剖意识形成机理的效果，在可预见的未来，人工智能对人脑意识是完全可以模仿的。

(五)比较法视域下严格责任的引入

弱人工智能一般是指该人工智能只在编制的程序区域具有较强的技术能力和操作能力，具有一定的自主学习能力。弱人工智能虽然具有一定的自主学习能力，但其自主学习能力仅限于其编程范围内的特殊领域，“围棋大师”AlphaGo就属于弱人工智能机器人，其虽然在围棋方面的造诣已然超过人类，对围棋的学习能力也非人类可比，但其自主学习能力仅限于围棋，在其他领域不具备自主学习能力。当弱人工智能机器人实施犯罪行为时弱人工智能机器人本身是否存在主观方面这一问题，刑法理论界已经形成了较为统一的认知，即弱人工智能机器人不存在主观方面，其主要理由如下：一方面，弱人工智能缺乏对外界的认知能力。弱人工智能对外界的认知往往只局限于编程范围内的某一领域，且编程数据具有一定的客观性，是人类基于主观意识而写成的客观程序，并非如同人类主观一样是对于客观的反应，只可说弱人工智能对客观事物具有认知，而不能说弱人工智能对客观事物具有认知能力。且对于其编程范围外的客观事物也缺乏认知，认知能力更是无从谈起，若肯定弱人工智能犯罪中承认其存在主观方面，当弱人工智能机器人实施了其编程范围以外的行为造成了危害结果时就不存在刑法评价之余地。另一方面，弱人工智能辨认和控制自己行为的能力并无社会意义。不可否认，弱人工智能的确存在着一定程度的自我学习能力，对自身行为存在一定的辨认和控制能力，但存在辨认和控制能力并不意味着其就存在着刑法意义上的主观方面。如我国刑法明文规定将不满14周岁的未成年人规定为无刑事责任能力人，将14周岁未成年人实施犯罪时的主观方面在刑法上视为无意义的。刑法是否将某一主体的主观方面赋予刑法意义在于该主体辨认和控制自己行为的能力是否具有社会意义。大猩猩与人类的基因相似度高达99%，也具备辨认和控制自己行为的能力，但其认知能力和辨认能力依然弱于人类，难以参与到社会生活之中。弱人工智能与此相似，其在某一方面的认知、控制能力高于人类，但其整体上的认知、辨认能力是弱于人类的，依靠其所谓的认知和辨认能力难以参与到社会生活之中，承认其主观方面并无社会意义和刑法意义。但是，同样的问题对于强人工智能甚至未来可能会出现的超人工智能而言，情形就完全不同了，随着科技的发展，我们很难说未来的人工智能技术就一定不会发展到具备和人类同质的意识和情感，从而断定其客观行为模式只是建立在机械编程的非主观的基础之上的，对此，刑法必须在不脱离现有理论的框架下作出前瞻性的回应。根据历史唯物主义法学的基本原理，法律没有独立的历史，其实质是人们具体的物质活动的历史，“无论是政治的立法还是市民的立法，都只是表明和记载经济关系的要求而已”[17]121—122。刑事立法必然是社会的经济物质生活在法律上层建筑的“投射”和“反映”，现代公司制度的核心“法人”突破传统的自然人本位的犯罪主体观进入到刑法评价领域就是例证。随着人工智能技术的飞速发展，在可预见的未来，“非人”主体实施的危害社会的行为将不断增加，作为围绕着严重的社会危害性为核心而构建的刑事立法、刑事司法和刑法理论体系都必须对此作出理论和实践的回应，这是以人工智能技术发展为推动力的社会变革的必然要求。但是，宏观讨论只能说明制度建构的必要性，并不能解决具体理论和实践问题。如前所述，具体到人工智能犯罪主观罪过的设计上，在现有的刑法理论框架下难以得到完满的解决。在笔者看来，要解决人工智能犯罪主观罪过的问题，必须突破现有的中国刑法理论藩篱，将视野扩展到比较法的视域，借鉴英美刑法理论中的严格责任理论，一方面，人工智能犯罪与“风险社会”这一严格责任的理论基础相契合，可以说，人工智能技术的发展所带来的包括犯罪在内的一系列危险的增加，正是风险社会图景的一个截面；另一方面，在英美法系国家，严格责任的提出，与其双层次犯罪构成一样，都是以英美实用主义哲学为基础的，其具有惩罚犯罪的诉讼功利主义需求[18]，对于主观过错特别困难的人工智能犯罪具有很好的适用性。

四、结语

从目前人工智能犯罪研究的现状来看，总体还停留在对策性的“碎片化”研究层面，还没有形成以行为模式、主观罪过、刑事责任、归责原则、刑罚措施等不同范畴类型化的成体系的理论研究模式。由此带来的问题是，在可预见的未来，在应对人工智能犯罪这一有别于传统的犯罪现象时缺乏统一的理论指导，给刑事司法实践造成了混乱和疑惑，本文从客观行为模式到主观罪过特征的研究，是人工智能犯罪类型化、体系化的一种尝试。