无人驾驶汽车应用的刑事风险分析

钟 菁

(华东政法大学 法律学院，上海 200042)

1939年，美国通用汽车公司在纽约世博会上展出了世界上第一辆无人驾驶概念车。[1]20世纪70年代起，人类开始进行无人驾驶技术的研究，不仅传统的汽车制造企业致力于研发人工智能汽车产业，而且包括谷歌、百度、Uber在内的众多互联网科技公司也纷纷加入人工智能领域研发的大军。有专家推测，到2020年无人驾驶技术将在部分国家或城市的路面车载行业得到全面应用，到2040年无人驾驶技术将覆盖全球大部分城市。[2]

无人驾驶汽车技术前景明朗，但持消极观点的专家也提出了质疑和担忧。2017年4月，物理学家斯蒂芬·霍金在北京会议中心举行的全球移动互联网大会(GMIC)上表示，对人工智能短期的担忧主要在无人驾驶、智能的致命自主武器等方面。数据安全专家Craig Smith在《汽车黑客手册：防入侵指南》一书中提到，“在自动驾驶汽车出现程序错误或者遭遇非法程序入侵时，汽车生产厂商可能无法及时介入帮助车主，而被隔绝的车主自己也无法发现问题，更谈不上提前防护。”[3]事实上，一旦无人驾驶汽车因失控发生交通事故，其可能导致的人员和财产侵害将不亚于传统交通事故可能造成的损失。

一、无人驾驶汽车应用之刑事风险

无人驾驶汽车致人伤害的相关判例，最早可以追溯到1957年发生在美国路易斯安那州的交通肇事案件。除此之外，2016年5月7日，美国俄亥俄州一名男子驾驶特斯拉Model S电动汽车与一辆突然左转的卡车发生交通事故。事故发生时，特斯拉汽车正在使用自动驾驶系统，没能及时地自动刹车，直接钻入了卡车底部，造成了特斯拉车主伤亡的惨剧。2018年3月18日，美国亚利桑那州坦佩市中心的一辆正在无人自动驾驶的Uber汽车将一名横穿马路的女子撞死。无人驾驶汽车造成的惨剧连发，使专家学者对无人驾驶汽车上路的安全问题的担忧不断。面对科技力量推动下日新月异的车路环境变化，应该保护人工智能的继续发展，将无人驾驶汽车失控造成的风险视作“个别的”“允许的”风险，还是应当对无人驾驶汽车技术应用进行必要的控制？

目前，得益于人工智能领域产品的不断升级，人工智能环境逐步由弱人工智能向强人工智能转换，映射到无人驾驶领域就是一个从完全依附于程序编制的“人机协作”驾驶模式到拥有独立控制、辨识能力的自主无人驾驶模式的过渡。美国汽车工程师协会(The Society of Automotive Engineers International，SAE)对无人驾驶汽车的等级作出分类，从“驾驶员完全操控”到“全自动无人驾驶”，无人驾驶汽车被依次划分为6个等级，分别为：Level0，驾驶员完全操控汽车；Level1，驾驶员操控汽车为主导，自动驾驶系统偶尔起到帮助人工驾驶的效果；Level2，自动驾驶系统可以进行部分驾驶操作，但驾驶员应当时刻关注驾驶环境并主导驾驶操作；Level3，自动驾驶系统可以自行观察驾驶环境并完成驾驶，但驾驶员应当随时准备在紧急情况下接管汽车；Level4，在特定环境下自动驾驶系统完全操控汽车；Level5，自动驾驶系统完全操控汽车。[4]目前，这一分类得到了美国交通运输部(United Stated Department of Transportation，DOT)的认证。笔者认为，若以是否具有自主辨认能力和控制能力为区分强、弱人工智能产品的依据[5]，SAE认定的level1-level3阶段的无人驾驶汽车应当被认为是弱人工智能产品，而当level4-level5阶段的无人驾驶汽车达到独立辨认控制能力时，则属于强人工智能阶段无人驾驶汽车。

正如上文所述，许多专家认为，相比人类驾驶而言，日渐成熟的车载控制系统能够更及时、准确地处理道路信息，并迅速作出反应。[6]但自动驾驶系统的运行带来的风险却接踵而至。特别是一旦Level4和level5阶段的无人驾驶汽车得到全面推广应用，它的运行已经脱离汽车使用者的监管和控制，故而其实施危害社会的风险性将急剧增加。①

第一，技术自身承担的风险。弱人工智能版本的无人驾驶系统尚无法完全脱离驾驶员的协作。例如，level3等级的无人驾驶汽车的操作建立在人机相互配合的基础上，驾驶员对自动驾驶系统的操作起到随时监督和接管的作用。特斯拉Model S汽车上的自动驾驶系统标榜自身设计是一款能够让驾驶员在高速公路上安心使用的自动驾驶技术，即便如此，特斯拉汽车驾驶员的手一旦离开方向盘，系统就会鸣响警报，提醒驾驶员应当对汽车的驾驶始终进行监督，并随时准备接管驾驶。特斯拉公司称，自动驾驶技术尚在发展之中，并不完美，需要驾驶员时刻保持警惕。[7]如上，弱人工智能阶段的无人驾驶汽车在汽车的生产者和设计者编制的系统程式范围内，不具有独立的辨识和控制能力，汽车的自动运行是汽车生产者的编程与使用者指令共同控制下的机械性反应。车辆行为不仅受制于既定的程序，还需要人类的监督和辅助操作。

无人驾驶汽车因大数据、深度学习、神经网络、蒙特卡洛树搜索等技术的不断发展终会由弱人工智能阶段走向强人工智能阶段。但事实上，达到了脱离人类指挥和控制的出厂标准的无人驾驶汽车可能依然存在许多不确定的技术风险。因此，对无人驾驶汽车的风险进行刑法等系列法律的防控就变得尤为紧迫和必要。

第二，作为工具实施犯罪的风险。Leve11-level3阶段的无人驾驶汽车本质上是具有一定感知能力的机器人，替代了汽车驾驶员，完成了部分驾驶劳动，而犯罪行为人只要熟悉运用数据编程控制汽车的内载计算机系统，就可能利用它以微小的代价造成巨大的社会危害。例如，利用无人驾驶汽车为危害国家安全、危害公共安全以及侵犯公民人身权利等犯罪提供便利。随着人工智能时代的到来，一些特殊的危害国家安全和公共安全、侵犯公民人身权利的犯罪行为，不再需要犯罪行为人亲力亲为，无人驾驶汽车本身就可以完成指定任务。[5]表现为意图实施违法犯罪行为的无人驾驶汽车的生产者、设计者或使用者，通过对无人驾驶汽车进行设计和编程，以无人驾驶汽车为工具，实施危害国家安全和公共安全，侵害公民人身权利的行为。使用无人驾驶汽车的反政府武装分子，不再需要以生命为代价实施自杀式爆炸袭击，而只需远程遥控车辆，即可轻松达到严重的人员和财产伤害目的。

此外，利用无人驾驶汽车实施危害国家安全犯罪、危害公共安全犯罪和危害人身安全犯罪的行为人，不仅包括无人驾驶汽车的生产者、设计者，还包括入侵他人汽车程序系统的“黑客”。掌握汽车程序编制技术的恐怖分子，可以任意侵入他人所有的汽车系统，通过篡改程序，足不出户即可控制城市街道环境，最终造成严重的社会混乱和人员伤害。犯罪行为人利用无人驾驶汽车实施上述危险行为的方法，除了诸如杀人、伤害、放火、爆炸等传统意义上的犯罪行为方式，还包括一些新型的犯罪方式类型。例如，犯罪行为人入侵正在行驶的汽车内载系统，造成汽车程序的错乱，从而直接导致乘车人员身体遭受损害。在美国著名电视剧《霹雳游侠》中，犯罪行为人以机器人和无人驾驶汽车为犯罪工具，通过操控机器设备，实施了许多诸如杀人、伤害、绑架等犯罪活动。

第三，公民个人信息泄露的风险。大数据时代，网络数据的价值骤增，公民的个人信息通常蕴含着一定的经济利益，这种经济利益的驱动促使一部分人不择手段地获取和利用公民个人信息进行牟利。[9]由于无人驾驶汽车需要方向定位与导航技术的支持，乘客在指定目的地后，智能系统会自动计算行车距离，并选择最优路线，而这一切均会处于定位和导航网络的控制之下，对同行乘客、乘车时间、所经地点、停车方向、行车轨迹都有具体且清晰的记录。[10]无人驾驶汽车一旦替代传统汽车成为使用者每日出行必备的交通工具，那么，犯罪行为人入侵汽车的网络系统将轻而易举地获得汽车使用者的所有日常信息。

为打击严重侵犯公民个人信息的行为，我国早在2009年2月28日通过的《刑法修正案(七)》就明确规定了“出售、非法提供公民个人信息罪”和“非法获取公民个人信息罪”。为进一步控制和预防不断增多的侵害公民个人信息的犯罪行为，2015年8月29日通过的《刑法修正案(九)》对此类犯罪进行了修订，条文中扩大了该类犯罪对象和主体的范围，加重了刑罚力度，降低了入罪门槛，旨在完善保障公民个人信息合法权益的法律体系。诚然，保护公民个人信息的法律体系正在逐步完善，但现行法律法规对可能出现的新型个人信息的非法盗用、公开和利用问题尚无力解决。例如，对拒绝共享自己数据的无人驾驶汽车使用者，生产者和设计者应当如何处置用户个人信息；对系统搜集的无人驾驶汽车使用者信息，生产者和设计者又当如何防止泄露；是否应当设立无人驾驶汽车生产企业对涉密信息的行业保护标准和原则，等等。这些问题不仅仅需要刑法加以规制和调整，还应当与其他法律法规协同解决。

无人汽车的生产商是最易于通过智能系统获取使用者信息的部门，再则即为侵入汽车网络系统的黑客。前者获取汽车使用者信息的途径尚属合法，只是在出现出售、非法提供个人信息的行为时应承担相应的刑事责任。后者“输入”或“输出”个人信息的渠道均属违法，都将承担相应的刑事责任。

第四，主体不确定性产生的风险。此处所说的无人驾驶汽车可能引发的犯罪行为，其主体的不确定性主要表现在以下三个层面。(1)以无人驾驶汽车为工具危害国家安全、公共安全，侵犯公民人身权利，或非法获取和侵害公民个人信息，犯罪行为人的行为都生长于虚拟网络之中，具有较强的隐蔽性。例如，操作无人驾驶汽车的恐怖分子不受限制地随时发动恐怖袭击，深藏在网络背后，这为其隐藏身份、逃避抓捕提供了有利条件。犯罪行为人利用无人驾驶汽车实施汽车炸弹、遥控汽车冲撞人群等行为，将会更加不可查和不可控。(2)无人驾驶汽车的生产由各类硬件设施、软件设计和系统程序的研发人员共同完成，任何环节的疏漏或有意损害均有可能导致严重交通事故的发生，因此无人驾驶汽车发生故障导致交通事故的归责主体往往很难确定。(3)无人驾驶汽车的自动驾驶系统开启后，一方面其按照设计者的设计模式操作行驶，另一方面也被允许对数据进行自主分析并作出判断。此种情形下，无人驾驶汽车导致严重的交通事故或其他严重危害结果，其责任的承担主体并不容易确定，因此追究相关人员的刑事责任从而预防犯罪行为的再次发生的难度极大。

第五，强人工智能阶段无人驾驶汽车的额外风险。强人工智能阶段的无人驾驶汽车属于高级人工智能机器人，具有自主意志并实施自主的决策。强人工智能产品不限于在生产者、设计者和使用者已设置好的程序范围内做出行为，可以通过自我的深度学习，获得独立的思考能力，并掌握生产者、设计者和使用者不可预知的信息和辨识控制水平。例如，当无人驾驶汽车行驶的道路上出现老人、儿童、宠物等不同的障碍体，车辆通过传感器获得道路交通信息后，经过影像的辨识，了解路面障碍体的类型，并在发生保护车内人员还是保护车外人员二者产生冲突的紧急状况时，能根据当时发生的具体情形，拥有独立的决断和取舍能力。再如，拥有脱离程序产生独立意识和意志的强人工智能阶段的无人驾驶汽车，完全可以比拟为一个拥有独立意志的“司机”机器人。人类将驾驶车辆的双手解放，把自己的生命安危完全托付给这位“司机”，意味着一旦机器人产生侵害人类的想法，将必然产生严重的危害后果。美国著名科幻电影《2001太空漫步》中，向木星进发的“发现一号”太空船由一台人工智能电脑“哈尔”掌控，但“哈尔”却故意预测错误结论，并设计杀害了飞船上的科学家。当下人工驾驶技术要达到强人工智能阶段尚需时日，但基于大数据、深度学习、神经网络、蒙特卡洛树搜索等技术的不断发展，人工智能产品必定会由弱人工智能走向强人工智能。

在刑事法律层面上，我们应当立足于可预见的范畴，做好相应的预防和应对措施，明确发生侵害事实时应当适用的刑法基本原则，这当然也是克服刑事立法滞后性的必然出路。

二、刑事风险对相关罪名适用的冲击

(一)对交通肇事罪适用的影响

我国《刑法》第133条规定了交通肇事罪。无人驾驶汽车发展的法律规制面临的问题集中于发生严重交通事故时承担刑事责任的主体问题以及承担刑事责任的主体构成交通肇事罪的标准问题。从刑事立法角度来看，就是“交通肇事罪”在无人驾驶汽车造成严重交通事故的情形下已经部分丧失了适用的空间。

如果无人驾驶汽车造成交通事故是由汽车的生产者、设计者、使用者或侵入汽车程序系统的黑客故意设计或发出错误指令导致的，那么此类案件应以行为人“故意”认定构成相应的其他犯罪。此外，由于不可抗力或者不能预见的原因引起的重大交通事故，也不能认定交通肇事罪。[11]

根据刑事归责主客观相统一的原则，构成犯罪的主观要件和客观要件应同时具备，不可偏废其一。弱人工智能阶段的无人驾驶汽车依然受驾驶员的操控，但驾驶员的主导地位决定了其对自动驾驶汽车的行驶负有全部责任。同时，无人驾驶汽车自动运行时，如果发生完全由系统故障或者由系统故障与驾驶员操作失误共同引起的交通事故，则驾驶员责任可适当减轻或者免除。当无人驾驶汽车达到强人工智能水平、汽车使用者的驾驶员身份完全转变为汽车乘客时，无人驾驶汽车自动行驶状态下发生的交通事故与无人驾驶汽车使用者的主观意志没有任何直接关系，则很难认定无人驾驶汽车的使用者构成交通肇事罪。事实上，现行的交通肇事罪的法条中并无对不同阶段无人驾驶汽车使用者责任的区分认定标准的规定。

(二)对醉酒型危险驾驶罪适用的影响

我国《刑法》第133条之一规定醉酒驾驶机动车，构成危险驾驶罪。近年来，我国国民生活水平提高，人均机动车数量不断攀升，但国民的道路交通安全意识依然不足，醉酒驾驶、追逐竞驶、超载行驶等问题屡禁不止。2013年12月18日最高人民法院、最高人民检察院、公安部《关于办理醉酒驾驶机动车刑事案件适用法律若干问题的意见》规定：“在道路上驾驶机动车，血液酒精含量达到80毫克/100毫克以上的，属于醉酒驾驶机动车，按照刑法第一百三十三条之一第一款规定，以危险驾驶罪定罪处罚。”

通说认为，危险驾驶罪属于抽象危险犯[12]，即意味着不存在抽象危险的行为不成立本罪。从行为主体角度来看，level1-level3阶段的无人驾驶汽车的使用者尚可称之为“驾驶员”，因为他们对无人驾驶汽车还拥有部分操控的能力并负有监督、接管的义务。基于此，level1-level3阶段的无人驾驶汽车的驾驶员是否为醉酒状态还将影响无人驾驶汽车的安全驾驶。而level4、level5阶段的无人驾驶汽车的使用者已经失去对无人驾驶汽车的控制，发生严重交通事故时，汽车的使用者由传统意义上的交通肇事罪“行为主体”转变成为潜在的“被害人”。同时，若脱离驾驶员操控的汽车造成的交通事故完全起因于无人驾驶汽车自身的行为，则此时的“危险驾驶人”已然不复存在。由此可见，危险驾驶罪在无人驾驶汽车肇事引发责任中的法律适用根基似乎已经动摇。

三、刑法规制无人驾驶汽车风险应保有克制

诚然，各国政府及相关企业对无人驾驶汽车研制发展的推崇，不仅是科学技术创新推动下的必然结果，也是无人驾驶技术优越性的体现。人类对人工智能汽车进行规制的同时，也应当适当考虑为其发展预留必要的空间，以保障科学技术的良性发展。

(一)无人驾驶汽车发展的优越性

无人驾驶汽车相较于传统的驾驶员操控下的汽车，其优越性主要体现在以下几个方面。

第一，弥补驾驶员身体条件限制，减少交通事故的发生。有数据统计，全球每年大约发生217万起交通事故，约造成124万人死亡，70%的原因都是酒后驾驶、超速驾驶、疲劳驾驶。[13]由于追逐竞驶、醉酒驾车等危险驾驶行为频发，我国早在《刑法修正案(八)》中就增加了危险驾驶罪名，并规定：“在道路上驾驶机动车追逐竞驶，情节恶劣的，或者在道路上醉酒驾驶机动车的，处拘役，并处罚金。”醉酒驾车的危险性主要来自醉酒导致的驾驶状态的高度危险，与其相类似的还包括超速驾驶、疲劳驾驶、无证驾驶等情形。

事实上，现实生活中，驾驶员精神疾病、醉酒、疲劳等原因造成的交通事故惨剧不断。即使是在大量法律法规明文禁止之下，类似交通事故案件依然屡禁不止。特别是各地司法机关在办理“醉驾型”危险驾驶案件时，因意见不统一，暴露出诸多问题，例如：基于对刑罚威慑力的迷信，对醉驾案件宜判缓刑的不判缓刑，几乎成为各地人民法院处理醉驾案件量刑时的共识；对醉驾案件“情节显著轻微危害不大不构成犯罪”适用的障碍；忽视对醉驾者主观罪过形式的判断等。[14]惩其未犯，罚其未然。无人驾驶汽车的广泛应用和推广或许可以成为减少危险驾驶行为、有效降低交通事故发生率的另一个有效出口。

第二，驾驶模式的选择增多，提高出行便利性。根据无人驾驶汽车智能化等级发展阶段的不同，人类可以部分或完全依靠智能系统操控汽车，使汽车根据使用者的指令安全、顺利地行驶。发展到level4、level5阶段的无人驾驶汽车已经被允许完全脱离驾驶员的监督和控制，此时的汽车使用者已经不再是“驾驶员”身份，而是“乘客”的身份。根据公安部2016年修订并颁发的《机动车驾驶证申领和使用规定》中对驾驶人员主体资格的要求，申请小型汽车、小型自动挡汽车等时驾驶员的年龄也被要求控制在18周岁以上、70周岁以下。此外，对申请机动车驾驶证的人员的身高、视力、辨色力、听力、身体的运动功能等都有相应的要求。相较于传统汽车驾驶员主体资格上的种种限制，无人驾驶汽车的使用大大放宽了汽车使用者的主体范围，无人驾驶汽车将能帮助更多的人享受便利的个人出行，特别是老年人、色盲色弱人群及其他身体残疾不能亲自驾车的人群。[15]除此之外，人类使用汽车到达目的地的时间可以被充分利用，人类尽可解放双手，节约宝贵的工作和学习时间。

第三，无人驾驶汽车运用广泛，节约了人力成本。无人驾驶汽车不仅可以为个人出行提供便利，还可用作特定的行业和领域。例如，2018年3月20日，全球首个无人驾驶清洁车队在上海松江区启迪漕河泾(中山)科技园试运营成功，无人驾驶清洁车队在上海松江区正式亮相。[16]众所周知，城市清洁团队工作时间段往往被安排在夜间，使用无人驾驶汽车清洁道路可以防止夜间操作人员过于疲劳，也可避免驾驶员夜间视力不佳而造成的交通事故。又如，随着生活水平的提高，消费者对服务水平的要求逐步提升，但快递、送餐等行业的人工费用越来越高，且难免受到时间限制，无法满足消费者全天候及时、快速送达的需求。前谷歌工程师创立Nuro公司并推出level4级别的全自动无人配送车，合作的领域包括快递、餐厅、药房、生鲜超市、服装百货、干洗等。[17]对此，无人驾驶汽车不但节约了运送行业庞大的人力资源，也为行业标准的提升迈出了一大步。

(二)发展与节制的博弈

艾扎克·艾西莫夫在《我是机器人》一书中提出“机器人工学三原则”，机器人不得危害人类，不可因为疏忽危险的存在而使人类受害。[18]关于人工智能发展的限度，历来有许多不同的声音。特斯拉CEO伊隆·马斯克在诸多场合均表示，人工智能可能是人类存在的最大威胁，科学家有时太过于专注研究，以致没有真正意识到其后果。[19]牛津大学互联网研究院卢恰诺·弗洛里迪教授(Lucian Floridi)也认为，人工智能对人类的主要威胁是人类本身，滥用人工智能的危险性堪比核武器，因此需要人类明智地使用这项技术。[20]物理学家斯蒂芬·霍金曾在接受BBC的采访时表达了对人工智能发展的担忧。

在众多专家和学者对人工智能的发展发表消极态度的同时，也有部分研究者持有不同的观点。麻省理工学院计算机科学和人工智能实验室创始人罗德克·布鲁斯克(Rodney Brooks)认为，斯蒂芬·霍金、伊隆·马斯克等人并未从事过人工智能工作，不能认为掌握深度学习能力的AlphaGo打败了韩国冠军、中国围棋冠军就预示着机器有能力做任何事情。[21]创新工场CEO李开复对人工智能威胁论亦持否定态度，认为人工智能威胁论过于危言耸听，人们应该着重关注AI在未来十年带来的机遇和改变。[20]

无论赞同还是否定人工智能威胁论，人工智能将对未来生活造成翻天覆地的影响是毋庸置疑的。人工智能将根本改变人类的生活，并帮助人类走进自动化的时代，正如无人驾驶汽车扩大使用车辆的人群、节约人力成本、为出行提供便利等。

居安思危，思则有备，有备无患。笔者认为，在无法提供充分的证据证明强人工智能的到来将不会对人类造成任何伤害和威胁时，旨在维护社会秩序的法律有义务将风险纳入规范的范畴。在放任和限制人工智能技术发展和应用的选择上，应始终以保护人类利益为根本出发点。正如无人驾驶汽车最终将发展到强人工智能阶段，如果深度学习而产生独立意识和意志的无人驾驶汽车可能做出伤害人类的行为，就应当限制强人工智能技术在该领域的应用。而一旦强人工智能阶段的无人驾驶汽车伤害了人类，不仅可以追究无人驾驶汽车研发者、使用者的监督失职的责任，还可以对无人驾驶汽车本身进行惩罚。[19]

当然，建立无人驾驶汽车的刑法规制体系的同时，还应当留有一定空间，并遵循必要的限度。首先，源于刑法的谦抑性，若通过其他社会规范、法律法规可调整无人驾驶汽车行业的发展，或其他刑法罪名已能够包容所规制内容，就应当遵循法律体系的一致性。其次，过于严厉的法规不利于无人驾驶汽车行业的发展。科技的进步就如同一把双刃剑，对其适当的约束可以促进社会生活的发展，对其可能产生的危害后果视而不见则可能导致危害后果的失控。因此，应建立有弹性的刑法规制体系，将相关风险纳入规范的过程也应保持必要限度。

四、结语

人工智能时代已经来到，无人驾驶汽车的应用不断扩大，其可能产生的风险也在提高。无人驾驶汽车的应用具有将其作为犯罪工具实施犯罪行为的风险，也有应用过程中汽车使用者个人信息被泄露的风险，还有因犯罪主体难以确定造成的刑事归责困难的风险。因此，人类在乐享科技进步的同时，应对其可能带来的风险保持警惕，随时确保风险的产生具有可控性。刑法对无人驾驶汽车应用的规制不可或缺，应当加快建立无人驾驶汽车犯罪刑罚体系，明确相关主体的刑事责任承担问题，确保无人驾驶汽车的良性发展。

[注释]

①SEA对汽车等级作出的划定中，level4、level5阶段的无人驾驶汽车具有完全脱离驾驶员自动驾驶的能力。因此，在拥有深度学习能力和独立的辨认能力和控制能力时，level4、level5阶段的无人驾驶汽车可被认定为强人工智能产品。但是，并非所有的level4、level5阶段的无人驾驶汽车均可被认为是强人工智能产品，level4、level5阶段的无人驾驶汽车与强人工智能产品并不是等价关系。