人工智能背景下的脑-机接口技术应用的刑事风险分析

吕 游

关键字：脑-机接口；刑事风险；侦查取证；责任认定

伴随着第三次生命科学革命的到来，生命科学家、物理学家与工程制造学家等高度融合，〔1〕郭应禄：《创建微能量医学担当第三次生命科学革命使命》，载《北京大学学报（医学版）》2019年第4期。为生命科学带来新概念、新理论，推动我国医学事业的巨大发展。神经工程学研究是生命科学领域最为复杂，最具挑战的研究之一，它主要功能是利用人造设备在神经系统和体外环境中搭建一座桥梁，确保大脑神经元与外界信息交互与功能整合，从而修复和增强人体的效能。这座桥梁就是脑机接口设备，在桥梁上运送信息的“工人”就是人工智能，这两者有效地融合，不断突破神经工程学的边界，多维度解析人类大脑工作原理，使得“读心术”成为可能，真正实现融合生物智能的新型智能形态。〔2〕《融合人脑智能与人工智能脑机接口开启“黑科技”新风口》，载新华网，http://www.xinhuanet.com/2017-08/23/c_1121517091.htm，2020年2月21日访问。2019年7月，美国神经科学公司Neuralink总裁马斯克宣布该公司一项重要研究成果，即可扩展的高带宽脑-机接口系统。该消息的公布，再一次引爆了外界对脑-机接口技术的关注。该系统将人工智能和脑机接口技术高效结合，利用一个类似于缝纫机的机器人和一些粗约4～6微米的导线将脑-机接口设备植入瘫痪患者脑内，实现人工智能植入人脑，让人们用“意念”控制世界不再是梦。随着人工智能的不断发展，脑-机接口技术也朝着更加智能化的方向发展，但同时也面临用户隐私泄露、产品质量安全和过失致人伤害等风险。例如，利用脑-机接口技术侵犯公民个人信息、通过脑-机接口技术增强人体器官效能后故意或过失致人死亡等。虽然脑-机接口技术还未全面投入商用，但是这些问题值得我们深思。我国人工智能刑法研究尚在起步阶段，〔3〕彭文华：《人工智能的刑法规制》，载《现代法学》2019年第5期。对智能技术的法律规制也尚在初级阶段。为了使我们对技术的需要适应社会对秩序维护的需要、为使公共生活具有意义，对个人行为施以一定的法律约束是必要的。〔4〕[美]E.博登海默：《法理学：法律哲学与法律方法》，邓正来译，中国政法大学出版社2019年版，第6-7页。因此，本文拟从刑事法律角度分析脑-机接口技术在实际运用过程中所遇到的问题，通过分析涉脑-机接口犯罪的责任认定、刑罚适用以及在侦查取证过程中需要注意的问题，充分发挥刑事法律对新兴科学技术的促进和规制作用，以期新兴科学技术合法、合规、高速发展。

一、脑-机接口技术的原理及应用场景

脑-机接口是指人类不需要借助于神经和肌肉控制外部世界，〔5〕Jonathan R Wolpaw, Niels Birbaumer, Dennis J McFarland, Gert Pfurtscheller, Theresa M Vaughan.Braincomputer interfaces for communication and control,Clinical Neurophysiology 113，767-791（2002）.只需要大脑与计算机或其他外部设备建立直接交流的通道，〔6〕高上凯：《神经工程与脑-机接口》，载《生命科学》2009年第2期。它综合了生物学、物理学、工程学、数学、计算机科学以及外科学等多门学科知识，将生物学意义上的智能系统——大脑与物理世界的人工智能系统高效整合，构成一个协同的智能系统。〔7〕高上凯：《脑机接口的现状与未来》，载《机器人产业》2019年第5期。脑-机接口系统的实现需要经过信号采集、信号分析和操作控制器三个阶段。科研人员利用信号采集设备从大脑皮层采集脑电信号，经过信号转化处理，将脑电信号放大、滤波、A/D转换，形成可被计算机识别的信号，再通过计算机内部计算处理，转化为可控制外部设备的具体指令，实现对外部设备的控制。简言之，脑-机接口技术就是人类利用“意念”实现对现实世界直接控制的一种手段，使得“想到即做到”成为现实。

人工智能的发展使得机器的智能化程度越来越高，也使得脑-机接口系统中“机”的这一端更加智能化，应用更加广泛。作为高精尖技术，脑-机接口技术最初的目的是帮助瘫痪和残疾者，而后被广泛应用于军事、教育以及软件等领域。目前，学界根据脑-机接口设备侵入大脑程度将脑-机接口设备分为三类，分别为非侵入式、半侵入式和侵入式。非侵入式接口主要是通过放置在体外的脑电波传感器来采集大脑释放的脑电信号，例如人工耳蜗、人造眼和一些军事辅助遥控打击设备以及虚拟现实（VR）游戏设备。侵入式接口通过刺激脑深部，在大脑皮层中植入传感器，传感器再利用大脑中的电极采集信号。这种方式采集信号的时间分辨率很高，但是需要通过外科手术实现，危险性比非侵入式高，植入难度也比非侵入式大。近年来，各大科技公司纷纷进军脑-机接口行业，力图对抗人工智能的不可控风险，促进人机融合，其中最有名的当属马斯克创办的脑-机接口公司Neuralink，该公司的目标是建立一个能与大脑任何区域传输神经信号的接口，并将它综合为“数字化第三皮层”，人类将成为真正意义上的半机械人。半侵入式接口是将设备植入到颅腔内，但是在大脑皮层之外，主要基于皮层脑电图（ECoG）进行信息分析。虽然其获得的信号强度及分辨率弱于侵入式，但是却优于非侵入式，同时可以进一步降低免疫反应和愈伤组织的几率。

实践中，在医疗领域中，脑-机接口技术除了人工耳蜗、人工眼等单纯地将声音信号或视觉信号转变为电信号的应用，各国科学家还纷纷对更复杂的脑电波信号转变为电信号开展研究。法国有学者已着眼于记录病人面对特定用脑任务的脑信号生成机制，并将这些脑信号解码转化为特定的外部动作，最后将这一系列的动作反馈给病人大脑。〔8〕Jacques Luauté.BCIs and physical medicine and rehabilitation: The future is now， Annals of Physical and Rehabilitation Medicine58，58(2015).美国NeuraLink公司则宣布利用脑机接口技术将人类大脑与电脑相连，帮助残障人士克服残疾和受伤带来的后遗症，弥补因中风或事故带来的大脑缺陷，而该公司的长期目标是让人类跟上人工智能进化的速度，使人类最终和人工智能“融合”。〔9〕腾讯科技：《马斯克宣布脑机接口技术取得重大进展——最早今年投入应用》，载腾讯网，https://new.qq.com/omn/TEC20200/TEC2020020501149900.html，2020年2月5日访问。浙江大学求是高等研究院“脑机接口”团队与浙江大学医学院附属第二医院神经外科合作，利用脑-机接口技术让高龄残疾老人通过大脑直接控制机械手臂，完成握手、饮食、玩麻将等复杂动作，帮助肢体残疾瘫痪的老年人运动功能的重建，提高生活质量，并增强他们身体机能。〔10〕曹文君：《浙江大学完成第一例植入式脑机接口临床研究》，载新华网，http://www.zj.xinhuanet.com/2020-01/18/c_1125477535.htm，2020年3月5日访问。在军事方面，各国正在利用脑-机接口技术积极研发脑控武器。士兵们可以通过意念远程控制武器，减少了中间反应时间，有利于捕获敌人，提升了人类对武器的操控效果。美国国防部高级研究计划局正在开展的“阿凡达”计划，〔11〕Miles, Donna.Avatar project seeks to help military amputees.U.S.Department of Defense，/FIND，2010.意在通过脑-机接口技术控制机器人，使机器人与士兵能有效配合，搭档完成军事任务。同时，该局还在积极研发脑-控无人机，实现对无人驾驶飞行器的控制。在教育方面，学校或教育培训机构可通过脑-机接口设备判断学生的学习状态，进而改进教育方法，提高教学水平。例如，国外有学者通过脑机接口设备捕捉学生在MOOC视频学习中的状态，及时了解学生的学习状况，当收集到的负面情绪信号积累到一定量时，学习会暂时中止，同时针对负面情绪对学生进行训练，继而改善其学习情绪。在法律领域，便携式脑机接口（BCI）设备可以克服测谎仪的不足，直接审问犯罪嫌疑人和目击者的大脑，识别出与犯罪现场相关的人、地点或者物体神经方面的证据。

二、脑-机接口技术应用的刑事法律风险分析

“技术中性论”认为技术是中性的，其本身不存在有利还是有害的问题。〔12〕姜振寰：《技术哲学概论》，人民出版社2009年版，第8-10页。因此，任何一项技术的发明对社会发展来说，都是一把双刃剑，有利有弊。作为一项新技术，脑-机接口技术还未大规模应用于产业化生产，大部分脑-机接口设备也未大规模上市。唯一大规模投入生产的是20世纪90年代，从国外引入中国的人工耳蜗。经过20多年的发展，该设备功能不断完善，技术不断提升，产品从单导耳蜗升级到多导耳蜗，性能也愈发成熟。目前，我国内地已有上万听力受障碍者接受人工耳蜗植入。但是，该产品在使用过程中，也存在各种问题，如产品质量、伤人等。以点带面来看，其他尚未上市的脑-机接口设备对人类带来的不法风险也是客观存在的。再则，随着强人工智能时代的到来，〔13〕[美]雷·库兹韦尔：《奇点临近》，董振华、李庆诚译，机械工业出版社2011年版，第10-20页。脑机接口技术借助人工智能发展将更加智能化，随之将产生更多的智能风险。脑-机接口技术应用可能会给当事人带来如下四种潜在法律风险：

（一）非法侵犯公民个人信息的风险

脑-机接口技术是通过采集、分析脑电信号来实现的。如何有效地分析脑电信号，成为科研人员攻关的难点。这些脑电信号通常会涉及受试者的个人信息，存在泄漏信息的风险，如实验中记录的是哪一种神经数据？这些数据是否涉及受试者的个人隐私？这些数据会以何种方式出于何种目的被存储于何处？这些数据是否和其他研究人员共享？如果科研人员管理不善将造成这些个人数据的泄露，或被人恶意泄露，责任如何认定？这些信息的泄露在很大程度上会侵犯公民的个人信息权，给当事人的工作、生活造成困扰和影响。

（二）意念“遥控”犯罪的风险

脑-机接口技术的应用使得大脑的功能充分发挥，在很大程度上解放了人的四肢。但是，从反面来说，在现实世界，如果脑-机接口设备大量生产，恐怖分子可以利用脑-机接口设备对无人机或机器人进行控制，若无人机或机器人携带炸弹或其他杀伤性武器，恐怖分子可以利用脑-机接口设备遥控无人机或机器人，远距离对特定的目标袭击，如对特定的人或者特定的建筑实施伤害，实现其用意念犯罪的可能性。又如，另一种犯罪的可能是犯罪行为人利用大脑控制人工手臂、人工腿进行抢夺或抢劫，由于技术增强了手、腿的功效，其犯罪既遂的概率增加。再如，随着无人驾驶技术和人工智能的有效结合，肢体残障人士可以借助脑-机接口设备驾驶汽车，有可能会发生危险驾驶、酒后驾驶等情况，这些都会危及公共安全。

（三）生产、销售不符合标准的医疗器材的风险

目前大部分脑-机接口设备还处在实验室阶段，刑法也未将这些新事物纳入规制范围。就对人工耳蜗的管理来看，国家食品药品监督管理总局将人工耳蜗植入体纳入《医疗器械分类目录》，并实行分类管理。近年来，随着人工耳蜗技术的不断优化，聋哑人士对人工耳蜗的需求量也不断增加，导致不少黑心商家为了牟利制假贩假。对于还处于实验室阶段的其他脑-机接口设备，国家食品药品监督管理总局还未将这些设备纳入管理体系，也没有兜底条款对其进行规范，这在一定程度上增加了销售不符合标准的医疗器材的风险。

（四）医疗事故的风险

无论是侵入式脑-机接口设备还是非侵入式脑-机接口设备，都需要医生或专业人士经外科手术将其安装在人体合适的部位。因此，涉及医疗侵权损害是不可避免的。迄今为止最成功的一种脑-机接口设备——人工耳蜗在实践中也常发生医疗责任侵害。通过查询中国裁判文书网，笔者发现，2017年10月，患者李某某因耳聋在南昌某医院行右人工耳蜗植入术，术后因颅内出血死亡。〔14〕参见（2017）赣0102民初4999号民事判决书。李某某家属就南昌某医院医疗损害责任纠纷向法院提起诉讼，后法院判决南昌某医院赔偿李某某死亡的经济损失。如果这种情况是由于医务人员违反医疗卫生管理法规，导致受害人死亡的，案件性质就将由民事纠纷将转变为医疗事故。针对侵入式脑-机接口设备，要实现其功能，需要将其植入大脑皮层，若该项技术没有完全成熟，则存在较大的潜在医疗损害侵权风险。对于像美国神经科学公司Neuralink利用“缝纫机”机器人植入脑-机接口芯片这样的精细操作，若在正式商用后，会存在医疗损害侵权风险的可能性，如若医务人员存在过失，操作不当，造成人员死亡，则会演变为医疗事故。

三、涉脑-机接口技术应用过程中不法风险的刑法认定

对于脑-机接口技术应用过程中的不法风险，刑法应该在该技术产生的现实价值与可能产生风险的矛盾之间寻求平衡，不应单纯强调风险防范，〔15〕储陈城：《人工智能时代刑法的立场和功能》，载《中国刑事法杂志》2018年第6期。严苛刑罚。脑-机接口技术应用过程中的不法风险类型多样，多涉及破坏市场经济秩序的、危害公共卫生的以及侵犯公民人身权利、民主权利的犯罪。根据上述不法风险，对其具体定性如下：

（一）对侵犯公民个人信息犯罪的认定

随着数据开放平台的奖励和互联网技术的发展，脑-机接口技术借助以数据、互联网及云计算为基础的人工智能开始新一轮的技术升级，势必会对个人信息保护机制造成巨大冲击。〔16〕胡元聪：《政府干预视域下人工智能时代的个人信息保护》，载《征信》2019年第11期。对此，我国《刑法》第253条对侵犯公民个人信息罪作出了相应的规定。其一，若要判定利用脑-机接口技术获取公民个人信息构成犯罪，从文理解释来看必须要满足两个条件：情节严重，即造成社会危害性，如将获取的大量公民个人信息出售牟利，影响恶劣；可判处有期徒刑、拘役或罚金，即依照刑法规定应受刑罚处罚性。其二，若从论理解释来看要具备以下两个条件：具有实质的法益侵害行为，即具有客观的违法事实，如非法获取、出售公民个人信息导致公民个人隐私泄露等；非难可能性〔17〕张明楷：《刑法学》（第4版），法律出版社2011年版，第91页。，即行为人对侵犯公民个人信息的行为具有有责性时，才能被认定为犯罪，如行为人具有责任能力，主观方面具有故意或过失等。换言之，根据罪刑法定原则，利用脑机接口获取公民个人信息要构成犯罪必须要有客观违法事实和主观故意或过失。在司法实践中，司法机关办理侵犯公民个人信息的案件，除了要考虑行为人犯罪情节、客观违法事实以及主观故意或过失，还应注重对公民个人信息的认定。2018年11月，最高人民检察院印发《检察机关办理侵犯公民个人信息案件指引》的通知，细化了对“公民个人信息”的审查认定，指出公民个人信息是指以电子或其他方式记录的能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情况的各种信息。因此，在实践中利用脑-机接口技术违反国家规定，故意收集、窃取或贩卖公民个人信息情节严重的，应认定为侵犯公民个人信息罪。

（二）对意念“遥控”犯罪的认定

脑-机接口技术可以通过对脑电波的解析，读出大脑信息，利用这些信息“遥控”外接设备。行为人意念“遥控”犯罪成立必须要明确以下两点：

一是刑事责任主体的认定。佩戴脑控设备的人是否可认定为刑法意义上的刑事责任主体是认定其是否犯罪的关键因素。不同于将具有独立意志的人工智能产品拟制为刑事责任主体，〔18〕蔡婷婷：《人工智能环境下刑法的完善及适用——以智能机器人和无人驾驶汽车为切入点》，载《犯罪研究》2018年第2期。脑控设备是大脑意识的表达介质，只有行为人利用脑控设备对外部设备发出指令，外部设备才能启动相应程序进行违法犯罪活动。所以，佩戴脑控设备的人理应认定为刑法意义上的刑事责任主体。因此，对利用大脑意念“遥控”犯罪的具体定性可直接参照自然人犯罪来定性，如果自然人具备特殊身份，则要根据具体身份犯对法益侵犯性的作用来判定。

二是打击错误的认定。打击错误的本质问题是因果偏离与故意归责的实现问题。〔19〕柏浪涛：《打击错误与故意归责的实现》，载《中外法学》2015年第4期。行为人在用意念“遥控”犯罪时，由于设备解读大脑指令偏差或者设备存在故障，导致侵害结果发生在另一个对象上。例如，甲意图用脑-机接口设备控制无人机攻击乙，由于设备解读大脑指令偏差，导致附近的丙重伤。对于这类案件，我国及日本刑法学界主要有法定符合说与具体符合说两种观点。〔20〕[日]西田典之：《日本刑法总论》,刘明祥、王昭武译，中国人民大学出版社2007年版，第174-175页。法定符合说认为甲构成故意伤害罪的既遂；具体符合说认为甲对乙构成故意伤害罪未遂，对丙构成过失致人重伤罪的既遂，两者想象竞合，择一重罪论处。在实践中，利用意念“遥控”犯罪的责任认定大致可分为以下三类：故意（过失）伤害或致人死亡、侵犯公私财产类犯罪和危害公共安全类犯罪。这三类犯罪如果行为人具有刑事责任主体，没有出现打击错误，则可以按照一般定罪量刑程序进行；如果出现了打击错误，则需要根据具体情况分别讨论，选择出最能有效惩罚罪犯的方案。

（三）对生产、销售不符合标准的医用器材的认定

判断生产、销售脑-机接口设备的行为是否构成生产、销售不符合标准的医疗器材罪，关键在于该行为是否符合该罪的构成要件。从犯罪客体来说，有学者认为该罪的客体是“正常的社会经济管理秩序和不特定多数人的生命健康权利”，〔21〕孙建国、汤留生主编：《新刑法原理与实务》，四川人民出版社1997版，第 304 页。有学者认为该罪的客体是“国家对医疗用品的专门管理制度及不特定多数人的身体健康和生命安全”，〔22〕陈正云、刘福谦：《生产销售伪劣商品罪的认定与处理》，中国检察出版社1998年版，第177页。也有学者认为该罪的客体是“国家的产品质量管理秩序和公民的生命、健康权利”。〔23〕熊选国主编：《生产、销售伪劣商品罪》，中国人民公安大学出版社2003年版，第156页。不管哪种观点，他们共同的客体都指向人的身体健康、生命安全，而脑机接口设备在与人体建立连接的过程中，都存在危害人体生命健康安全的可能性。从犯罪客观方面来看，该罪要求行为人违反国家产品质量法规，生产不符合保障人体健康的国家标准、行业标准的医疗器械、医用卫生材料，或者销售明知是不符合保障人体健康的国家标准、行业标准的医疗器械、医用卫生材料，足以严重危害人体健康。〔24〕唐磊、魏东主编：《伪劣商品犯罪认定与侦查》，群众出版社2001年版，第161页。如果生产、销售脑-机接口设备违反国家相关法规以及给人体造成严重健康问题，这两者之间又具有刑法上的因果关系，即满足该罪的客观方面。从犯罪主体来说，该罪的行为人既可能是个人，也可能是单位。从犯罪主观方面来说，要构成该罪需要行为人具有主观故意。因此，生产、销售脑-机接口设备要构成犯罪，需要行为人主观具有故意，客观上存在违法事实，安装植入脑-机接口设备时或事后危害人体生命健康安全。

（四）对医疗事故风险的认定

安装脑-机接口设备，如人工耳蜗等，需要进行外科手术。手术过程中，存在一定的医疗事故风险。我国《刑法》第335条规定医疗事故罪是指“医务人员在医务工作中由于严重不负责任，造成就诊人死亡或者严重损害就诊人身体健康的行为”。这里的事故主要指的是医疗责任事故，〔25〕臧冬斌：《医疗事故罪研究》，武汉大学2002年博士学位论文。涉及的两个关键的要件：一是犯罪的主体属于身份犯，是指在医疗机构中从事对病人救治、护理工作的医生和护士；〔26〕胡康生、李福成主编：《中华人民共和国刑法释义》，法律出版社1997年版，第477页。二是犯罪的客观方面要求行为人严重不负责任以及造成就诊人死伤的后果。“严重不负责任”虽然具有主观意图，但结合《医疗事故处理条例》第2条的规定，这里的“严重不负责任”是指工作过失，属于过失犯罪。在司法实践中，鲜有医务工作者因医疗事故罪被起诉，多是医疗事故民事纠纷，这说明要给行为人定医疗事故罪的条件是较为苛刻的。因此，如果医务人员或医疗机构在为病患安装脑-机接口设备的过程中，违反医疗规章制度或者诊疗规范，造成就诊人死亡或者严重损害就诊人身体健康的，要定性为医疗事故罪，必须要同时满足上述两个关键要件才能以医疗事故罪论处。

四、涉脑-机接口技术不法行为的程序法应对

如前所述，涉脑-机接口技术的不法行为涉及面广，多以破坏市场经济秩序的、危害公共卫生的以及侵犯公民人身权利、民主权利的犯罪为主。对于这些犯罪除了按照一般的犯罪侦查思路进行侦查外，还应当重点把握以下几个问题：

（一）以满足诉讼需要的方式取证

涉及非法侵犯公民个人信息犯罪网络覆盖面大、受害者众多，如果对每一个被害人进行询问，不仅增加了办案人员的工作量，还降低了办案效率，不利于及时惩治犯罪嫌疑人。2017年最高人民法院、最高人民检察院发布的《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》中明确规定：“对批量公民个人信息的条数，根据查获的数量直接认定，但是有证据证明信息不真实或者重复的除外。”因此，对于此类案件的侦查时可根据犯罪嫌疑人供述，运用技术手段，梳理涉案侵犯公民个人信息的条数，筛选证据证明信息不真实或重复的证据，最后综合全案证据认定犯罪的数量。另外，该类案件一般归最初受理的公安机关管辖。特殊情况时，可由主要犯罪地的公安机关管辖；对有争议或管辖不明的案件，可协商或指定管辖。

（二）着重审查电子数据的完整性和合法性

根据《刑事诉讼法》第50条的规定，电子数据是法定证据的一种。涉及侵犯公私财产类犯罪的证据主要以电子数据的形式存储在脑控设备芯片中，因此在实践中难免会遇到电子数据取证的情况，而电子数据审查与判断和其他证据审查相比又有其自身的特点。首先，侦查机关应当对原始存储介质（脑-机接口设备芯片）的扣押、封存状态以及电子数据收集、提取过程进行审查，比对电子数据完整性校验值，比较与备份的电子数据的差别，查看冻结后的访问操作日志，确保电子数据证据链条完整。其次，电子数据取证要符合相关技术标准，检查电子数据时要将电子数据存储介质通过写保护设备接入到检查设备；有条件的，要制作电子数据备份，并对备份进行检查；无法制作备份且无法使用保护设备的，要附有录像，确保取证过程合法。最后，侦查机关对收集、提取的原始存储介质或者电子数据应当制作电子数据备份，并将原始存储介质以封存状态随案移送。

（三）医疗纠纷刑事鉴定要慎重

涉脑-机接口技术犯罪的医疗纠纷案件，难免存在医疗事故原因、损伤程度、伤残程度的判断问题。针对这种情况，可先由各级卫生行政主管部门作出医疗事故责任鉴定后，再根据实际情况进行行政处罚或追究刑事责任。对于特别严重的情况，侦查机关可以在案发后及时介入，第一时间搜集和固定证据，对于涉及脑-机接口设备安装是否合规，是否存在医疗技术问题，是否存在医疗责任问题，可根据《刑事诉讼法》第119条的规定，指定或者邀请公安机关的法医会同或直接鉴定。〔27〕杨越人：《医疗事故罪若干问题探讨》，载《法律与医学杂志》2003年第2期。