刑法上的自由意志与自由意志中的AI*——基于现代泛心论的分析视角

□王耀彬

内容提要 自由意志作为刑事责任的根基是AI刑事主体资格论争的关键要素，对其内涵的界定颇为重要，轻视或忽略对其论证均不利于学说的自洽。借鉴依靠量子力学再度兴盛的现代泛心论，合成物粒子含有自由意志属性。刑法上的自由意志包括自主选择能力与反省控制能力两项内容，自主选择能力与深度学习能力相对应，反省控制能力与理性能力不谋而合。未能自主创设算法的初级阶段的弱AI实体不具备上述要素，无法成为刑事主体；类人工智能实体具备相应程度的深度学习能力与理性能力，拥有刑法评价意义上的自由意志，具备成为刑事主体的关键要件。

刑事制裁施行的正当性源自于刑事责任承担的合理性，自由意志是刑事责任的根基，即使其难以得到科学验证，甚至于被视为一种假定，但这样的假定合理且具有积极意义，并不违反罪刑法定原则。①刑事责任以自由意志为前提，既符合社会的要求，也符合寻求真理的正义要求。②在AI实体主体论争的剖析过程中，自由意志应当是主要考量因素之一。③肯定论与否定论基于各自立场展开了激烈的论战，双方论争主要集中在自由意志、刑罚可行性、社会发展的需要、刑法体系的完整性等方面。其中，自由意志作为刑事责任的根基自然引起学界关注，但近期研究④更多采用一种蜻蜓点水式的强调，要么仅仅肯定自由意志在论争中的重要地位，却未能针对自由意志的本质内涵展开深入剖析；要么采用避重就轻式的论证模式，如仅仅论证AI实体能否具有自由意志，论证逻辑却偏向AI实体享有自由意志之后的弊端梳理。上述论证思路不可谓之错误，但显然无法对AI实体能否具备自由意志这一根本难题进行有效阐释。法学研究应该避免盲目跟风，⑤防止陷入想象法学之迷幻空间，需紧密结合科技与哲学知识，深入探究自由意志的本质内涵与AI实体的思维特质，并以此审视AI刑事主体资格论。

一、自由意志：AI刑事主体资格论争的关键要素

意志自由，是“有意选择行为的自由，在于它不受感官冲动或刺激的决定。”⑥作为技术创新，特定事件流程的数字化使得我们思考：我们的责任概念是否恰当，AI实体能否具备自由意志。“刑事主体论”者通常聚焦于理论设想基础上的教义学分析，比如将论点支撑归结于人工智能体与人类相比拟的“智力化程度”、“侵害行为的有体性”；⑦或者将其支撑事由归属于强AI实体的主观心理可以符合刑法所规定的犯罪构成的主观条件，⑧这样的论述逻辑合理，但与科技本质相距较远，难以形成有力的论据支撑。在国内，刘宪权教授是“刑事主体论”的代表人物，刘教授发表了一系列论文树立自己的论点⑨；与之相反，“刑事主体否定论”以刑法的谦抑理念为指导，强调刑法传统理论的稳定性，鉴于AI实体“生命要素的缺乏”、“刑罚正当化不足”⑩、“意识无法自发生成”⑪，坚定认为其不具备成为刑事主体的可能性。笔者认为，诸多论争之中，自由意志的争论更有价值，应当提升论争力度。

非类人型智能实体⑫不具有自由意志，肯定论大都认为，当下的AI技术未能“了解自己的行为并且感受到自己行为的——超出服务于程序预设目标之外的——意义”，⑬只有类人型智能实体才具备，两种类型辨识的依据在于：智能实体能否自主创设新的算法以摆脱原有算法的控制，倘若不能，就难谓自由意志的存在，也就不能被赋予独立的法律人格；⑭强AI实体能够在自由意志指示下实施危害社会的行为，也因此能够被视为刑事主体；⑮但上述论证并未对强AI实体为何具备自由意志展开深入论证。

“否定论”揪住“肯定论”上述论证漏洞进行反驳——AI实体无法具备与自然人等同评价的自由意志，即便智能实体的伦理控制系统的发展水平追平了自然人，其自由意志也无法具备，有且仅当人工智能实体能够被社会价值认可、进行无差异交流，与人类完全无差异，才能被评价为具备自由意志，否则即使拥有“控制与辨认的能力”也不可行。⑯可贵的是，该论点对于AI实体能否具备自主意识进行了深入思考，他认为，受人类控制的AI实体因为独立性缺乏无法享有刑事主体地位，脱离人类控制的AI实体无法具备成立犯罪的主观条件，即无法具备刑法意义上的自由意志，赋予其刑事主体地位与刑法体系不协调。⑰该观点的论证基点是智能实体无法对其活动的规范意义进行自主认知与选择，原因有二：其一，即使AI实体能够进化到具备规范认识的能力，也会出现智能识别与人类立场不一致的窘境，⑱其社会危害性认识不一定符合现实社会规范；其二，自由意志引起的犯罪故意、过失等是以自然人为成立基础，智能实体不是人，不能被视为刑事主体，除非AI实体能够进化到理解社会法律规范价值意义的层次，而此种假设是不成立的，根本不可能实现。这一论证看似密不透风，其实有陷入“循环论证”之嫌：首先，既然强AI实体能够具备规范认识的能力，那么为什么其规范认识与人类规范不一致？这是智能算法的设计问题，也是科学技术进步的规制范畴，即使人工智能实体不具备人类灵魂的高贵特性；⑲退一步说，即使理由一论证成立，就能够得出强AI实体不具有自由意志的结论吗？显然难以得出，此处涉及到顺序的先后，刑法适用的考察范畴不会一成不变，会随着智能社会的到来有序变革；再次，该观点的立论即是AI实体无论发展到何种阶段也无法进化到理解法律规范价值意义的程度，基于此立论当然会得出否定的答案，这是明显的循环论证。部分“否定论”学者忽视了自由意志对于这场论争的重要性，仅从刑罚的可行性角度展开分析，未免给人避重就轻的质疑。⑳针对“肯定论”将人工智能实体与单位犯罪相比拟的论证逻辑，“否定论”不以为然——二者存在根本不同的运行原理。该论点认为自然人与AI实体之间永久保持为隶属关系，AI实体不享有自由当然无法承担责任。此处值得商榷，一方面，其混淆了不同发展阶段的AI实体；另一方面，肯定论同样赞同单位犯罪与AI实体不可类比论证，只是将其视为打破固有责任模式的标杆，其意义在于破解传统思维。综上，当前“肯定论”与“否定论”均未对自由意志本质内涵展开深入分析，更未以此为纲裁定AI实体自由意志要素的有无。

AI实体能否进化到强AI实体阶段？我们当前难以给出精准答案，只能根据科技变革的趋势、目标做出价值评判，即是说我们的研究是在科学常识及基本预测背景下立足于当下基本刑法规范体系所做的可行性辨析。它能够给我们带来思维模式的转变，研究价值已然呈现，单纯以科学技术无法达到预期目的为由否定对方论点并不可取。当然，智能辅助刑事裁判系统的不确定风险也是“近忧”之一。不能简单认为对于AI刑事主体资格的探究毫无意义，或者仅仅徘徊于自由意志无法验证、科学技术发展的不确定而机械地坚持刑事主体否定论；当前学界研究迫切需要对于自由意志本质展开深入分析，并结合科技变革现状展开价值评判。

二、自由意志本质内涵的当代审视：基于现代泛心论的二维分析

自由意志是为实现一定的社会目的而设计的归责产物，也是后期古典学派刑法体系的标签之一，但其本身较为抽象，单纯依据刑法设定的“自主选择能力”与“辨认控制能力”相结合的判断标准无法给科技审视提供具体的裁量标准，需要从科技哲学领域探究自由意志的本质内涵，借以对AI实体能否具有自由意志提供可行的参考依据。

（一）现代泛心论与哲学层面的自由意志

1.泛心论的辩证审视

泛心论是一种认为一切事物均具有心智的理论，它自从意大利学者弗兰西斯科·帕特里齐首次提出以后经历了曲折坎坷的发展历程，从古希腊时代的萌芽兴盛过渡到启蒙时代的落寞，再随着量子力学的时兴重回学界视野，实现了由被研究者不屑一顾到如今的大有可观。现代泛心论泛指20世纪之后的泛心论，以盖伦·斯特劳森、大卫·查默斯、威廉·西格等哲学家为代表，他们认为，由于组成任一物体的物理微粒的存在本质是等同的，整体系统是否具有意识并不完全取决于某一粒子是否拥有心智，因此，物体心智是否存在并不取决于终极物的内在特质，而是终极物构成的宏观事物的构成关系。由此可以得出，意识的产生取决于实在物构成的整体宏观事物的构成关系，并不会因为某些粒子没有心智或非人类而排斥意识的存在。至于为什么要基于现代泛心论的分析视角，是因为黑格尔、康德、奥古斯丁等法哲学家对于自由意志的论证侧重于必要性、重要性及其意义阐释，未能详细论证自由意志的内部结构，而现代泛心论为这一问题提供了哲学支撑。现代泛心论虽然也遭到决定论者、突现论者的抨击，但由于得到量子力学理论的支撑，且能够有效应对“意识难”的难题，正日益受到学界的关注与认可。虽然依据泛心论的字面意思可以推导出心智是微观单元现实存在的，但不能说所有的微观单元组成的现实事物均拥有心智；唯有那些由微观现实单元以“恰当的方式”构成的现实事物（即合成物）才能被认为具有心智乃至意识，而那些仅仅由微观现实单元以聚集的方式集合组成的任何层次的现实事物（即聚合物）则不宜被视为具有心智。粒子是能够以自由状态存在的最小物质组成部分，普林斯顿大学的康韦教授于2006年提出了自由意志定理，并在2009年提出了该定理的加强版本，他认为如果人类拥有自由意志，则基本粒子也有。沿着上述分析脉络，我们需要探究AI实体的组成粒子及由其组成的整体是合成物还是聚合物。

2.自主选择能力与知觉能力是自由意志的两大要素

知觉与自由意志并非自然人特有的观点已经得到生物学、神经心理学实验的证实，自然人肯定是由基本粒子组成的合成物，其合成粒子本身应具有自由意志。根据康德的自由意志定理，合成物的粒子本身具有自主选择能力，因为基本粒子皆具有该能力，非决定性即是自由选择性，刑法上对应自主选择能力，比如，没有刑责能力的精神病人的行为选择并非受意志所控，而类似于一种随机的情绪反射。至于合成物的粒子是否具有辨认控制能力，可以从正反两个方向进行阐释：其一，反向类推法，刑法确立了自由意志的统治地位，整个刑法学理论建立在行为主体具有自由意志的基础之上。而粒子作为事物组成的最基本单位随着人类自由意志的具备自然享有自由意志，粒子具有自由意志的结论必然包含着合成物粒子辨认控制能力的具备，反之，粒子自主选择便沦为空谈；将粒子具有自由意志反向推导，可以得出自主选择能力与辨认控制能力应当是粒子自由意志两大要素的结论。其二，正面解释法。合成物粒子本身具有知觉能力，该结论绝不是空穴来风而是班班可考。首先，知觉同样可以逐层降解，它与自由意志相仿，自然人与黏菌均有，是由繁入简的渐变；其次，粒子具有知觉的论断可以在布尼茨的单子论中得以印证，每个单子也都像灵魂一样具有知觉和欲望。”粒子既然能“自主选择”，也必定具备“知觉能力”，此二者共同组成了粒子自由意志的主要内涵。因此，自由意志的构成不仅仅包括自主选择能力，还应包括知觉能力。“知觉能力”是“辨认控制能力”初级阶段的产物，上述正反解释均肯定了合成物粒子具有“知觉能力”的结论，因此，“自主选择能力”与“知觉能力”是粒子自由意志的两大要素。

（二）刑法与哲学自由意志双重层面之内涵比对

意志是一切犯罪的根本原因，形象思维是刑法意义上自由意志形成的渊源。其内涵包括自主选择与辨认控制，这一结论同样得到了上述正反解释法的支撑，正向解释法印证了这一结论的合理性。至于为什么要确立辨认控制一词，原因有二：第一，由犯罪故意概念可知，犯罪故意包含认知与意志控制两大要素，两者缺一不能构成故意犯罪；第二，刑法将其表述为自主选择能力与反省控制能力更为妥当，有利于法规范的表述自洽。哲学上自由意志包括自主选择能力与知觉能力，刑法意义上的自由意志与哲学上的自由意志内涵同质，其包括自主选择能力与辨认控制能力。双方均包含自主选择能力，不同之处在于后者还包括知觉能力之上的反省控制能力，“知觉能力”是“辨认控制能力”初级阶段的表现形式，也是单一合成物粒子自由意志的呈现形态，当合成物粒子结合为整体合成物之时，“知觉能力”的累计才可以被视为“辨认控制能力”，这也可以由上述反向类推法及现代泛心论的基本论断推理得出。刑法意义上自由意志的源始基础是意识的具备，并在此基础上，体现为自主选择能力与反省控制能力兼备的特质。自主选择能力通常以生物生命为载体，却不排斥人工大脑构造的人工生命的智能实体。类人工智能实体显然不是聚合物，其是由基本粒子整合而成的具有自主行为能力的结合体，对于AI实体能否具有刑法意义上自由意志的论断归结于其是否能够具备“自主选择能力”与“知觉能力”。

三、深度学习能力与理性能力：AI实体能否具有刑法自由意志的度量衡

逻辑与数字计算能力取决于当代人工智能实体的“深度学习能力”，形象思维是刑法意义上自由意志形成的渊源。类AI实体能否具有刑法意义上自由意志需要考量科技发展现状及预期目标，并探究“深度学习能力”、“理性能力”的本质内涵及其与“自主选择能力”、“自觉能力”的关系，将传统刑法教义与科技进程紧密结合。

（一）“深度学习”的本质、发展状况及其与“自主选择能力”的关系

“深度学习”的概念源于人工神经网络的研究领域，含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。人工智能研究的方向之一，是以所谓“专家系统”为代表的、用大量“如果—就”模式设定的、由上至下的研究路径，即是说，AI实体的发展目标就是深度科学能力的具备。深度学习是类人型智能实体的重要能力，其本质离不开数学模型的塑造——由设计者预先设定一个运行模式，后由AI实体依据该运行模式实施行为，只是它已经突破了预先设定的编程，并能通过深度学习自主行动，是具备自主选择能力的标志。当前智能实体普遍还未能具备相应的深度学习能力，但科技对于深度学习能力的追求程度与日俱增，并付诸于实践。在深度学习以及数据爆炸的催化下，人工智能已经由发现时代步入了应用时代，深度学习和大数据使人工智能进入新的领域。在美国，随着AI学习程度的加深，运用AI技术的医疗成效颇为乐观，部分医学家认为人工智能甚至可能取代放射科医生。深度学习能力并非虚幻，其已经被列入当代科技重点研发计划。

人脑普遍具备深度学习能力，进而在不受“编程、框架”约束的自由意志指导下具备自主选择能力。在类人工智能时代，具备深度学习能力的AI实体将会摆脱人工编程的控制，产生一系列根据机器本身数据决定而出的思想、目的、意图。清晰的学习、推理和判断（对已知信息的应用）能力是意识的一部分，是自由意志产生的根基之一。人工智能及神经网络专家将思维逻辑建立在人工生命的观点之上，将AI系统作为分析手段映射人脑的思维运作及决策过程，用人脑控制器使智能实体变得更聪明。其信息加工流程体现为——人工脑通过学习能力的运用获得记忆机能，并能通过对于周围信息刺激的感知拥有自主选择能力与控制能力。

一般而言，意志与思维是一对统一体，两者并不是实体所享有的两种官能。思维以意志为前提与存在基础，人不可能在无意识的状态下进行思维展示与理论创新，因为思维本身就是一场意志活动。深度学习能力能够产生思维，自主选择能力是以思维的客观存在为基础，两者在理论上共通。对于非类人型智能实体而言，它只是在执行一些数学模型的运算而已，并不能从中感受到所谓的“授之以鱼，不如授之以渔”，真正具备自主选择能力的智能实体应该是拥有自己独特的思考方式，当认知到固定的信息数据时，能够生成自身独特的思维模式，而不是将人类思维逻辑进行简单机械的模仿。深度学习能力与自主选择能力一脉相承，是AI实体具备刑法意义上自由意志的必要条件。

（二）“理性能力”的本质、内涵及其与“知觉能力”的关系

理性是法律主体的本质特征，理性人是经过法律形式化过滤的规范主体，并排斥了情绪、兴趣、情感等非理性因素的介入。在苏格拉底看来，“人是一个对理性问题能给与理性回答的存在物”。理性思考是人的核心特征，也是AI实体能够成为法律主体的必备能力。类人型智能实体具有“理性思考、理性行为”的显著特征，是“自觉”与“自动”的不同存在。类人型人工智能实体能够具备理性能力的论断在科学界基本能够达成一致，而理性能力是知觉能力具备的标志。

知觉能力是内部组织对于搜集而来的外界信息的加工选择能力，其内涵窄于感觉，不仅仅囊括对于事物的认识能力，还扩展到对于外来信息的整合选择能力。知觉能力的核心特质是对信息的加工选择能力，这也是其区别于普通感觉的本质要素。法律意义上知觉能力离不开自主选择能力的相辅相成，建设于自主选择能力基础之上的知觉能力需要AI实体能够自主筛选价值信息并作出选择，这一选择过程既离不开深度学习能力，也离不开理性思维指引，否则无法成为法律上的知觉能力。虽然依据理性能力未必能推断出辨认控制能力的具备，但推断出具备知觉能力并非难事。类人工智能实体具备成熟的人工心理模型，这里所提到的人工心理模型，是基于心理学理论的有意识与无意识理论，引入了脑波和阙值概念，通过对人脑的思维、推理活动进行模拟，研究意识的建模及其机器实现。基于其模型的类人型智能实体能够不断地感知外界和自身状态变化，具有足够程度的认知功能，并且能够自主产生情感波动，对自己的行为做出评价。下一代智能实体预计将远远超过最近机器学习在特定任务和正式结构领域的成功，具有深层次的学习能力与理性思维能力。类人工智能实体能够实行编程设定范围外的自主行为，依据智能准则形成自身的理性基准，并能够依据海量数据信息在深度学习基础之上理性分析，理性准则、理性基准与理性分析相结合预示着理性能力的具备，综上，组成类人工智能实体的基础粒子能够具备“知觉能力”。

类人型人工智能实体系统的运行过程由其意识指引，并难以受到社会因素、周围因素的制约，一定程度上可以认为，对于类人型人工智能实体而言，意识是其具备自由意志的必要充分条件，这也得益于类人型人工智能实体的拟人情感难以建立及深度学习能力的具备，使得其摆脱编程控制具有独立思维。当我们得出类人型智能实体具有自由意识之后，即可推断出其具有自由意志。

（三）“图灵测试”与AI实体之自由意志裁量

此外，AI实体能够具备自由意志也可以通过“图灵测试”进行验证。责任非难的依据是行为主体道德观念上的日臻成熟，那么何谓道德上的成熟？这需要社会认同。刑法责任的认定与社会大众的期许密不可分。类人型智能实体能否具有刑事责任能力受到民众接受程度影响，这给我们提供了反向辩证思路——倘若民众能够接受智能实体与自然人类似的智力水平，就能够从应然层面对本文论证提供有效支撑。对于自然人而言，尚且难以做出自身行为是否受到自由意志指引的结论，我们不过是根据社会第三人的判断进行界定，对于类人型智能实体是否具备自由意志的判断也可以以第三者的评价进行验证。倘若对类人型智能实体进行实体化认证的话，类似于“图灵笔记本”的提法也是可行的。当类人型AI实体能做出令人信服的反应时，就可以接受它们是具有与人类等价意识的“智能人”的现实，这里的判断超越了可以通过图灵测试实体的范围——因为图灵测试至少需要掌握人类语言。但只要类人型AI实体与自然人足够相似，我们就能接纳它们。对“沃森”进行研究的科学家无法预测出它的下一步行动，因为其程序太复杂，其机能涉及的知识面太广，超出了人类所能掌握的范围。人具有理性、人会使用语言、人倾向于结成社会等界说，都与“人是万物的尺度”这一理念相关，这值得商榷。正如美国学者Ray Kurzweil 教授所言：“我相信，人类最终会接受非生物实体也是有意志的，因为最终非生物实体将拥有人类目前拥有的全部微妙的暗示、情绪，以及其它主观体验。如果我们相信人类具有自由意志，那么，不得不承认类人工智能实体也能具备与之等价的自由意志。

结语

法律主体的进化史已经证明了法律人格在覆盖范围上的弹性以及与所关联主体的可分离性。以社会组织、法人为代表的单位形态已经在各个部门法领域获得法律主体资格，并对传统意义上的法律主体概念造成了强有力的冲击。自由意志作为刑事归责的核心要素已然成为AI刑事资格论争的核心要素，具备深度学习能力与理性思维能力的类人型智能实体符合刑法意义上自由意志的本质内涵，具备成为刑事主体地位的关键条件。虽然时下还处于弱人工智能发展的初级阶段，刑法的谦抑性要求刑法研究应当立足于现实国情，对于自动驾驶带来的刑法规制问题的研究及利用智能技术实施犯罪的研究不可或缺，但对于自由意志的本质内涵及智能实体能否具有自由意志是任何智能阶段都需直面的问题。对于AI实体主体资格的分析不能局限于教义学层面，需要从哲学视角探究科技实质，剖析自由意志的本质内涵，对AI实体的不同发展阶段展开区别分析，否则将脱离现实成为空中楼阁。

注释：

①张明楷：《责任论的基本问题》，《比较法研究》2018年第3期。

②Nestor Paul G.，“In Defense of Free Will：Neuroscience and Criminal Responsibility”，vol.65，International Journal of Law and Psychiatry，2019，pp.1～7.

③除了自由意志之外，还有受刑能力等要素。

④我国大陆学界对于人工智能实体法律责任的研究萌芽于2017年，在世界范围内，该项领域研究目前也处于萌芽与争论期。

⑤刘艳红：《人工智能法学研究中的反智化批判》，《东方法学》2019年第5期。

⑥[德]康德：《法的形而上学原理——权利的科学》，沈叔平译，商务印刷馆2002年版，第13页。

⑦马治国、田小楚：《论人工智能体刑法适用之可能性》，《华中科技大学学报（社会科学版）》2018年第2期。

⑧刘宪权：《人工智能时代的“内忧”“外患”与刑事责任》，《东方法学》2018年第1期。

⑨刘宪权教授主张强人工智能产品能够成为刑事责任主体这一观点，代表性论文如刘宪权：《对智能机器人刑事责任主体地位否定说的回应》，《法学评论》2019年第5期；《人工智能时代的刑事责任演变》，《法学》2019年第1期；《涉人工智能犯罪刑法规制的路径》，《现代法学》2019年第1期；《人工智能时代的刑事风险与刑法应对》，《法商研究》2018年第1期；《人工智能时代的“内忧”“外患”与刑事责任》，《东方法学》2018年第1期；刘宪权、胡荷佳：《论人工智能时代智能机器人的刑事责任能力》，《法学》2018年第1期；刘宪权、林雨佳：《人工智能时代技术风险的刑法应对》，《华东政法大学学报》2018年第5期；刘宪权：《人工智能时代刑事责任与刑罚体系的重构》，《政治与法律》2018年第3期；《人工智能时代机器人行为道德伦理与刑法规制》，《比较法研究》2018年第4期；《人工智能时代我国刑罚体系重构的法理基础》，《法律科学》2018年第4期；《对强智能机器人刑事责任主体地位否定说的回应》，《法学评论》2019年第5期。

⑩储陈城：《人工智能时代刑法的立场和功能》，《中国刑事法杂志》2018年第6期。

⑪叶良芳：《人工智能是适格的刑事责任主体吗？》，《环球法律评论》2019年第4期。

⑫类人型人工智能实体具体包括强、超人工智能实体与弱人工智能高级阶段的智能实体，参见王耀彬：《类人型人工智能实体的刑事责任主体资格审视》，《西安交通大学学报（社会科学版）》2019年第1期。

⑬蒋熙辉：《单位犯罪刑事责任探究与认定》，人民法院出版社2005年版，第225页。

⑭彭诚信、陈吉栋：《论人工智能体法律人格的考量要素》，《当代法学》2019年第2期。

⑮刘宪权：《人工智能时代的刑事责任演变：昨天、今天、明天》，《法学》2019年第1期。

⑯储陈城：《人工智能可否成为刑事责任主体》，《检察日报》2018年4月19日。

⑰皮勇：《人工智能刑事法治的基本问题》，《比较法研究》2018年第5期。

⑱如皮勇教授举例，科幻电影中描述的为拯救人类而杀戮的超级智能系统。

⑲[美]乔治·桑塔亚纳：《常识中的理性》，张沛译，北京大学出版社2008年版，第4页。

⑳叶良芳、马路瑶：《风险社会视阙下人工智能犯罪的刑法应对》，《浙江学刊》2018年第6期。