论人工智能的刑事主体地位与刑法应对

王文明，齐卫红

(1.河南工业大学 法学院，河南 郑州 450001; 2.河南工业大学 人工智能与大数据学院，河南 郑州 450001)

1 问题的提出

伴随人工智能的发展，算法存在如下演进链条:“传统算法—深度学习算法—强化学习算法—情感算法。”[1]从上述演进链条来看，算法的演化进程呈现出先易后难的发展轨迹，据此亦可推测未来人工智能发展的新方向是“机器人智能化得到加强，机器人更加聪明”[2]。但是，目前的人工智能技术仍处于弱人工智能阶段，其核心技术仍然是处于演进链条的初端算法，即“传统算法”。“弱智能机器人不具有自主意识和意志，不能超出人类设计和编制的程序范围实施行为。”[3]然而，即使是弱人工智能产品，在日常生活中也已然给人类带来了现实的伦理问题和法律风险。例如：在无人驾驶汽车致人伤亡的交通事故案件中，无人驾驶汽车由于系统判断错误而将行人撞伤或者撞死，其最终的责任承担者必须是无人驾驶汽车的研发者或使用者，并不能直接将交通事故的刑事责任归咎于无人驾驶汽车本身。目前的无人驾驶技术仍属于弱人工智能，其背后的计算机程序设计受研发者所控制，本身并不能自主做出指令之外的行为。无人驾驶汽车程序出错，发出错误指令而做出伤害人类的行为，本质上是技术问题，所以对研发者是否应负有交通事故的过失责任应进行明确。显然，这就涉及人工智能发展所面临的技术风险与刑事风险的平衡问题。对于弱人工智能所带来的刑事风险，由于弱人工智能产品本身不具备刑事主体所要求的辨认能力和控制能力，其仍然处于现有刑法手段可规制的范围内。

强人工智能通过深度学习可以模拟人类学习及成长的全部过程，进而可以达到和人类相同的阅历和认知水平。人工智能或将拥有人类大脑无法媲美的数据存储能力，并且获取知识的速度远远快于人类，在将来还有可能达到超人工智能阶段，即超越人类的认知水平。因此，未来的强人工智能是否具备刑事主体地位，则需要在可靠的科学依据的基础之上，判断其是否具备刑事主体所要求的辨认能力和控制能力。对于强人工智能所带来的刑事风险，刑事立法应具有一定的前瞻性，可以适度超前，但也不能过于超前，不能超出一般人的预测可能性。

2 人工智能的刑事风险

根据是否具备自主意识和自由意志，人工智能可分为弱人工智能和强人工智能。弱人工智能阶段的机器人虽然具有简单意识，但仍然达不到与人类意识相当的程度，因此，对该阶段的人工智能所带来的刑事风险，现行刑法仍然能够予以有效规制。但在未来的强人工智能阶段，人工智能机器人可能会达到与人类自主意识水平相当的程度，此时如何对人工智能所带来的刑事风险进行有效规制，首要前提是解决其是否具备刑事主体这一问题。

2.1 弱人工智能的刑事风险

人工智能发展的不确定性可能会带来安全风险与挑战，可能会冲击现有法律与社会伦理，还会带来侵犯个人隐私等问题[4]。即使是弱人工智能阶段，人工智能产品所带来的刑事风险，也已出现对现有法律秩序构成冲击和挑战的趋势。例如，当前AI技术的普及就对新型网络诈骗犯罪防范提出了新的挑战。不法分子通过AI技术伪装成被诈骗者的亲朋好友，使其轻信上当，从而作出错误的财产处分行为。

弱人工智能阶段，对人工智能产品所带来的刑事风险，如果背后的研发者或使用者存在过失，则应追究其相应的过失犯罪的刑事责任；如果研发者或使用者利用人工智能产品进行故意犯罪，则应当追究其故意犯罪的刑事责任。针对以上两种情形，是否要增设诸如“滥用人工智能罪与人工智能产品事故罪”等专门的新罪名，应当取决于是否存在客观的现实需要。

“由于刑事立法活动需要尊重客观规律，因此刑法对于人工智能产品研发或使用行为的规制应当保持一定的谦抑性。”[4]刑法作为二次保障法，对于弱人工智能阶段的刑事风险，应当遵循谦抑性原则，可以通过行政法、民法等前置法律规范进行规制，否则可能会造成过度干预，进而阻碍人工智能的创新和发展。

2.2 强人工智能的刑事风险

到了强人工智能阶段，会出现具备人类相同认知能力和意志能力的智能机器人。如果不对其伦理地位和法律地位进行明确，则可能会引发伦理风险和刑事风险。当人工智能机器人具备自主意识之后，有可能脱离人类的程序控制而做出危害人类的犯罪行为，这就对正当防卫制度提出了新的挑战。值得警惕的是，“人工智能的进一步升级也可能产生在智力等方面全面凌驾于人类的超级智能，从而使人类平添了被支配、奴役甚至消灭的风险”[5]。人类是否能够对强人工智能进行足够的风险控制，目前是没有明确结论的。然而可以明确的是，一旦人类丧失对强人工智能的控制，必将对人类社会生活造成毁灭性的灾难。为了避免上述风险变为现实，对于人工智能技术的发展，“警惕技术风险、倡导合理的科技伦理、设计全新的技术规范，是更为急迫的任务”[6]，即要从源头上对人工智能技术进行风险控制，防患于未然。

同时，计算机智能化的不断发展，对人类隐私保护也提出了严峻挑战。尤其是对于保护隐私与打击犯罪的界线如何作出合理权衡，是传统刑法难以解决的。传统刑法奉行罪刑法定原则，只处罚具体的犯罪行为，而不处罚“犯罪思想”。然而，从刑事犯罪的过程来看，包括犯罪意向的形成、犯罪预备、犯罪行为实施、犯罪后的应变等阶段，这些阶段将随着计算机技术的巨大进步而趋于一体化，其极端呈现便是“防患于未然”，深入“打击犯罪思想”[7]。现在的传统刑法对犯罪的认定是从客观到主观进行归罪。而在计算机智能化时代，尤其是即将到来的强人工智能时代，具备自主意识的强人工智能机器人所产生的犯罪行为，将使人类难以承受其带来的危害，只有对其防患于未然，从思想源头上进行规制，并消除在萌芽阶段，才能有效防范相应的刑事风险。

总体而言，人工智能所带来的刑事风险有以下三类：一是可能会促使某些传统犯罪的危害性发生“量变”；二是可能会导致新的犯罪形式产生；三是可能会脱离人类控制，独立实施某种犯罪行为[4]。如果人工智能存在上述刑事风险，是否就需要对其进行刑法规制，还要进行具体探讨。目前，持“技术中立”观点的人认为，立法为促进技术进步而基于结果导向的简单功利主义立场在很大程度上是承认“技术中立”的，“技术中立”作为设计者价值渗透、利益追求的解蔽手段而存在[8]。所以，在人工智能研发的初级阶段，人类可以对人工智能予以法律规制甚至刑法规制，但要基于人工智能技术所带来的客观危险而作出；如若不是，则有违罪刑法定原则，是一种主观定罪的表现。这种做法会过多地干预人工智能研究者对人工智能技术的深度研发，也会抑制人工智能技术的生活化应用。如果只是由于主观臆测而对未来产生恐惧，主张现在就对人工智能进行刑法规制，可能会阻碍人工智能技术的创新突破。

对于人工智能技术潜在的安全风险，人类不应过于恐惧。“与核武器和致命生物相比，机器学习的最新进展构成的威胁相对较小。我们也将适应人工智能。”[9]正如核武器和生物基因技术那样，当人类对其进行合理控制后，它们将会始终造福人类，人工智能亦是如此。

3 人工智能的刑事主体地位

随着人工智能技术的不断发展，人工智能必然面临两大刑法问题：一是人工智能机器人能否作为犯罪主体，独立承担因犯罪行为所导致的刑事责任；二是人工智能机器人是否会成为自然人的犯罪对象[10]。在弱人工智能阶段，人工智能机器人无法摆脱自身的工具属性，对人类的生活工作而言只起到辅助作用。而在即将到来的强人工智能阶段，具备自主意识的人工智能能够像自然人一样产生犯罪意识，并在这种犯罪意识的支配下实施危害人类的行为，这就必然违反了“机器人三定律”。关于人工智能是否具备刑事主体地位，目前刑法理论界主要形成了以下三种观点。

3.1 刑事主体肯定说

持肯定说者认为：“人工智能具有自主性、主动性，已非纯受支配之客体，在法律上应设定为‘电子人’。”[11]该观点明显存在以下缺陷：首先，现实生活中虽然已出现人工智能公民身份的真实案例，但其仍然是不具备自主意识的弱人工智能产品，只是研发者将先验知识输入其中的外在表现而已；其次，现有刑法仅规制实然状态的犯罪行为，但强人工智能阶段的机器人是否具备人类的社会伦理价值观以及是否具备自然人的能力仍然处在未然状态；最后，“电子人”具备犯罪主体资格的法外基础具体是什么，至今仍然比较模糊，并且缺乏一定的说服力。

此外，有学者认为：“真正意义上的智能机器人在不久的将来可能出现，其将完全具有独立的辨认能力与控制能力，完全可能按照自主意识和意志实施严重危害社会的犯罪行为，应当成为刑事责任的主体。”[12]不久的将来是多久，这还是一个未知数。而刑法作为二次保障法，本身具有谦抑性，只能针对客观存在的刑事风险进行规制，而对于尚未可知的刑事风险不宜过早介入。刑法规制处于或然状态的刑事风险，有违刑法的明确性原则，即在犯罪客体都不明确的情况下，刑法实际上很难进行有针对性的准确规制。

俄罗斯学者起草的俄罗斯第一部机器人法草案《格里申法案》，提出了机器人在不同法律关系中和发展阶段的定位，以及未来可将机器人以类似于法人的定位赋予其民法主体地位和民事权利能力等理念[13]。《格里申法案》仅是学者在学术理论层面对人工智能机器人赋予类法人的法律主体地位，但这种类法人地位的做法是否可行，则值得怀疑。因为对法人的法律规制仍然是建立在对自然人的规制基础之上的，通常法人发生违法行为，可以依法对法人及其背后的自然人进行罚款、吊销执照等处罚；若是公司、企业、事业单位、机关、团体等单位犯罪，则可以对单位处以罚金，对单位背后的自然人处以刑罚。而人工智能机器人由于其自身的物理属性以及将来可能具备类人的自主意识等情形，则需要做如下具体区分：处于弱人工智能阶段的机器人不具有独立的刑事主体地位，可以类比法人制度，处罚其背后的研发者或使用者；对于将来可能具备类人自主意识的强人工智能机器人，由于其具有独立的刑事主体地位，可以直接对其处以刑罚，而无须类比法人制度。因此，不能将人工智能简单地通过类比法人制度而赋予法律主体地位。

3.2 刑事主体否定说

持否定说者认为，机器不适宜成为法律主体，“真正能控制机器行为的是机器的设计者，立法者不具备了解深层技术的知识储备”[14]。目前弱人工智能机器人是由研发者或使用者所控制，立法者并不具有了解人工智能技术的知识背景，也无从全面把握人工智能所带来的技术风险。此种情形下，直接通过立法将人工智能机器人确立为法律主体，缺乏客观现实依据。

关于人工智能是否具备刑事责任主体资格，叶良芳坚持“彻底的否定论”，他认为：“无论是现在还是将来，人工智能都不是适格的刑事责任主体。”[6]彻底否定人工智能机器人的法律主体资格主要理由在于：人工智能本质上仍然是一种由编程语言构成的计算机程序，执行的也只是研发者的命令和意志。换言之，人工智能仅具有有限的认知能力，没有自我意识，没有自身目的，不可能成为自由自律的理性主体[15]。

“由于人工智能不具备欲望的机制，它不具备主体性。”[16]弱人工智能阶段、强人工智能阶段以及超人工智能阶段，都有一个共同的技术前提，即它们都是人类技术理性的延伸。只要这三个阶段的智能机器人都在人类技术理性的控制范围之内，就会仍然受制于人类控制。因而，当前人工智能面临的现实问题不是亟须确立人工智能机器人的法律主体资格，而是如何保持人工智能技术始终朝着理性的方向发展。当前的人工智能机器人尚不具备人类所具有的自主意识以及人类的欲望机制，所以仍然不能摆脱工具属性，也就没有确立人工智能法律主体地位的必要。而对于未来的强人工智能，即使赋予其法律主体资格，由于缺乏现实的可行性，如何对具备法律主体资格的人工智能施以处罚还需要我们进一步考虑。

目前的人工智能机器人不能像自然人一样认识到自身行为的违法性，也不能够自主控制自身行为，换言之，人工智能机器人无法摆脱自身的工具属性，因此缺乏成为刑事责任主体的可答责基础[17]。根据目前人工智能发展的技术理论，弱人工智能向强人工智能发展的必要途径，便是通过深度学习逐步达到人类的认知水平，但是经过深度学习摆脱程序控制的人工智能能否像自然人一样认知自身行为的违法性，才是判断人工智能是否具备刑事责任主体资格的关键所在。人工智能在行为能力上属于“无完全行为能力人”，即不能对自身行为的社会违法性作出真实理解，也不能对刑法规范作出自主性判断。

当前的弱人工智能机器人本质上是人类的辅助工具，只能对其背后的研发者或使用者追究相应的刑事责任，而其本身不具有刑事责任主体资格。在当前的法律体系下，对于弱人工智能产品所造成的危害结果，可以追究其研发者、使用者等的产品侵权责任的，应当先行适用民事法律手段；只有危害结果严重到民事法律手段不足以规制时，才能动用刑法手段对其进行规制。刑法作为保障法，其本身需遵循谦抑性原则，不应过于积极主动地越过前置法去规范当前人工智能所产生的法律风险。

3.3 刑事主体折衷说

持折衷说者认为，在未来强人工智能阶段，赋予强人工智能机器人刑事责任主体资格后，要区别于传统的刑事责任主体自然人和单位，即采取两种不同的判断标准[3]。但是，由于强人工智能仍然处于未然状态，就当下如何能够根据尚未确定的人工智能机器人的能力水平，而提出一套与之相适应的判断标准，江溯认为：“对于具备足够决策能力的人工智能实施行为的可能性，并不应一概排除，而应当参照自然人标准加以检验。”[18]该观点主张对具有自主意识的人工智能，应参照自然人标准对其进行刑事主体地位认定，前提是人工智能具备类人的辨认能力和控制能力。

刘宪权认为：“弱智能机器人不具有自主意识和意志，……不能成为刑事责任主体。”[3]根据该观点，由于弱人工智能机器人不具备自主意识，仅是人类的辅助工具，那么涉及弱人工智能机器人的刑事犯罪，需要追究的责任主体应该是相应的研发者或使用者。然而，对于强人工智能机器人，刘宪权则认为:“在将要到来的强人工智能时代，强智能机器人具有自主意识和意志。”[3]假设未来的强人工智能机器人具有独立的自主意识，不受研发者所设计的程序控制，就能实施人类指令之外的犯罪行为，此种情形下则无法将其行为归咎于其研发者或使用者。但是，这种情形是处于假设的未来状态，不具有客观紧迫性，因此对尚未可知的刑事风险进行刑法预防、规制，实质上是缺乏客观必要性的。

“我们可以期待，到2050年，人工智能会拥有能和我们大脑相媲美的操作系统。”[9]三十年后，人工智能可能会达到人类的智力水平，并具备自主意识和独立意志。但是，科技的发展是难以准确预测的，并不会按照当下的预测匀速发展。虽然刑事立法应具有一定的前瞻性，但只能在可靠的科学依据的基础上，才能适度超前，同时也不能过度超前。此外，法律自身所具有的滞后性也难以避免，通过超前的刑事立法预防强人工智能阶段的刑事风险，也与刑法本身遵循的谦抑性原则相违背。

4 人工智能犯罪的刑法应对

“刑法是最后一道屏障，立法者应该谨慎扩大犯罪圈。”[4]这正是刑法谦抑性原则的体现。在涉及人工智能的法律风险预防与规制时，应当先行适用前置法律规范；而当人工智能存在客观现实的刑事风险时，刑法才理应介入，并优先从刑法解释论的角度，充分运用解释学原理将其归入到传统刑法罪名的调整范围内，即“面对智能时代下的新型犯罪及其归责问题，……激活传统罪名的扩张适用潜能，妥善解决刑事责任归属问题”[12]。只有在现有罪名确实无法涵盖人工智能犯罪时，才能从立法论的角度，尝试增设新的相关罪名进行预防和规制。解释的穷尽意味着立法上应当对此类犯罪进行立法完善[19]。

4.1 弱人工智能的刑法应对

通过增设滥用人工智能罪、人工智能事故罪，确立研发者或使用者的刑事责任主体地位[12]。

在弱人工智能阶段，人工智能机器人仍然无法摆脱工具属性，因此刑法规制的对象只能是其背后的研发者或使用者,即具体的自然人，而非人工智能本身。此种情形下，当然可以通过传统罪名规制人工智能犯罪行为。即使因人工智能产品导致了重大事故的情形，由于弱人工智能机器人仍是人类的使用工具，所应承担的过失责任也只能归咎于背后的研发者或使用者等。对此，刘宪权主张：“对人工智能产品生产者的过失犯罪行为以重大责任事故罪认定无疑是较好选择。”[20]同时，现阶段没有迫切的现实需要，增设新的罪名来专门规制人工智能犯罪。“滥用人工智能罪与人工智能产品事故罪的增设，其实都指向研发者和使用者。”[12]通过立法论规制法律风险的前提是传统罪名无法涵盖人工智能犯罪，但弱人工智能的工具属性决定了客观实际，“增设滥用人工智能罪和人工智能事故罪，确立研发者或使用者的刑事责任主体地位”[12]都是不适合的。

弱人工智能阶段，“应当明确刑法评价的对象是人工智能体研发者的行为，而非人工智能体本身的‘行为’”[21]。本文认为，弱人工智能机器人所实施的犯罪行为，最终都能归咎到其背后的人，即人工智能的研发者或使用者。弱人工智能本身无法摆脱其固有的工具属性，不具备人格属性，亦不具备法律主体资格。因此，对于弱人工智能的技术风险所带来的刑事风险，应当先从解释论的角度，通过激活现有的传统罪名或刑罚手段进行规制。

4.2 强人工智能的刑法应对

在未来的强人工智能阶段，应当“根据实践需要，逐步通过增设新的罪名与新的刑罚措施等方式，来满足日益发展的新型社会需求”[12]。随着人工智能技术的不断发展，当传统的刑法罪名无法涵盖新出现的人工智能犯罪时，刑法应在实践需要的基础上，适时增加一些相应的刑法措施，对其进行有效规制。

对危害人类的人工智能机器人，虽然人类可以进行数据删除或者修改相关的程序设计，甚至执行更为严重的“死刑”措施如永久销毁，但这些都是事后惩罚措施。从进入强人工智能阶段开始，就“应当成立专门的监管机构对强人工智能机器人进行监管，由精通人工智能技术的专业人员负责对强人工智能机器人进行监督管理”[22]。然而，人类是否有足够的能力对强人工智能机器人进行强制性惩罚，还是个未知数。

事实上，对于未来强人工智能可能造成的刑事风险，其科学依据尚不明朗。对此，本文认为，目前对强人工智能所具有的刑事风险进行刑法规制，尚缺乏迫切的现实需要。通过增设新罪名对人工智能犯罪进行刑法规制，必须建立在可靠的科学依据的基础之上；否则，有违刑法的基本原则——罪刑法定原则。此外，刑法作为二次保障法，必须遵循谦抑性原则,在民法、行政法等前置法能够进行有效规制的情形下，刑法不能越界。刑法的谦抑性原则强调刑法的补充性，对于强人工智能所带来的刑事风险，刑法在前置法不足以有效规制时，才需予以回应；如果现有刑法手段也不足以规制时，就需要适时作出相应的立法调整。此外，刑事立法还应具有一定的前瞻性，对于强人工智能所带来的明确的、已有科学依据的刑事风险，在现有刑法无法进行规制时，刑事立法可以通过增设相关新罪名对其进行规制。

5 结语

在当下的弱人工智能阶段，人工智能机器人无论以何种方式对人类造成危害结果，其都不是适格的刑事责任主体；而未来的强人工智能是否具备自然人一样的自主意识和认知能力，则尚处于未然状态，基于当下人工智能技术现实发展状况进行相关理论探讨也为时过早。因此，对于尚未到来的强人工智能阶段的刑事风险规制，立法者不宜过早介入。而对弱人工智能阶段的刑事风险，应当先从解释论的角度，充分激活传统罪名或刑罚手段进行规制。只有在传统罪名或刑罚手段无法有效涵盖的前提下，才需要从立法论的角度，通过对现行刑法适时做出相应调整来规制新型的人工智能犯罪。目前，在人工智能尚未进入强人工智能阶段时，抑或未取得实质性技术突破时，刑法应当坚守固有的谦抑品格。