APP下载

脑机接口技术的应用风险及其法律规制

2025-01-26黄永镇

关键词:人工智能

摘 要: 脑机接口技术具有提升人类健康和福祉的巨大潜力,但其应用可能引发人身损害、精神损害及干预意思自治等风险。成因在于人脑脆弱性与技术危害性相叠加、精神私密性与读脑必要性相对立以及科技创新性与法律滞后性相冲突。因此,应采用动态知情同意模式,医务人员应充分且持续地履行说明义务,并阶段性评估患者的知情同意能力,视情况决定是否需要重新取得同意授权;应构建人类神经权利体系,包括精神隐私权、精神完整权和自由意志权;应完善民事法律行为规则,法律应承认自然人可以通过脑机接口技术作出意思表示。自然人在因设备故障或外界干预而作出不符内心真意的意思表示时,应享有撤销权,且应根据相对人是否知情进行区别保护。

关键词:人工智能;脑机接口;精神损害;神经权利

中图分类号:D913""" 文献标志码:A"""" 文章编号:1009-055X(2025)01-0024-13

doi:10.19366/j.cnki.1009-055X.2025.01.003

一、引 言

脑机接口(brain computer interface,BCI)是“在大脑与外部设备之间创建信息通道,实现两者之间直接信息交互的新型交叉技术” [1。《脑机接口技术发展与应用研究报告(2023年)》指出,脑机接口技术目前处于应用普及期,该技术的商业应用有望在2023年到2032年这十年内走向成熟2。脑机接口技术实际上是信息媒介的深层次延伸3,通过脑机交互,它可以修复、增强或辅助人体的感知-运动功能,因此被广泛应用于医疗、教育、娱乐等诸多领域以提升人类健康和福祉。然而,脑机接口技术作为一项可以深度影响人类生存和发展的新兴技术,其快速发展和广泛应用在推动人工智能迈上新台阶的同时,也将不可避免地引发一系列的法律问题,如医疗事故、产品责任、精神损害、隐私与信息泄露、消费者权益受损等。因此,研究脑机接口技术的应用风险及其法律规制具有重大的理论价值与现实意义。

唯有透彻理解和深刻把握脑机接口技术的运行原理,才能准确识别和详尽分析其潜在的应用风险,从而有针对性地提出恰当的法律治理思路。脑机接口技术首先通过信息采集模块采集大脑神经元电信号,然后将获取的电信号数据通过放大、滤波、模数(A/D)转换等方式转换为计算机可识别的数字信号,随后再利用神经信号处理单元对数字信号进行预处理、特征提取与模式识别,最后将处理后的信号转换为通信指令来操控外部设备。一个完整的脑机接口系统通常由信号采集、信号处理、控制设备和反馈环节这四个部分组成。信号采集是脑机接口系统的第一个组成部分,它通过侵入式、非侵入式、半侵入式的信号采集组件接收和记录神经元活动产生的信号,并将这些信号传输给下一个处理单元,以实现信号改善和噪声衰减。紧接着便是信号处理,它先是从使用者电生理信号中提取与意图强相关的信号特征,这些特征可以是时域特征、频域特征或者两者兼具,然后将提取到的信号特征转换为通信指令,如光标移动、机械臂控制、字母选择或其他反映使用者意愿的操作。脑机接口系统中的另一关键部件是包括控制设备在内的通信设备,其主要作用是接收信号处理阶段的信息,并将信息发送给外部设备,以实现使用者意图。目前,常用的设备包括计算机、人工耳蜗、智能眼镜、轮椅、机械臂、神经义肢或其他辅助设备。最后是反馈环节,它替代了传统的神经-肌肉输入途径,构建了一个自适应闭环控制系统,通过向使用者提供实时的反馈信息,允许使用者自行调节大脑活动,以达到最佳的操作效果和输出性能。

虽然脑机接口技术已从科幻照进现实、从动物实验走向人体试验、从实验室逐步走向临床和商用、从医疗领域扩展到其他领域4,但目前人文社科学术界对脑机接口技术的研究大多是基于哲学和伦理学的视角,鲜见从法学视角对其进行深入探讨的文章。鉴于此,本文在辨识脑机接口技术潜在应用风险的基础上,试图剖析其成因,并有针对性地提出法律规制路径,以期为脑机接口技术的规范应用提供理论支持。

二、脑机接口技术的应用风险辨识

“脑机接口是下一个生命科学和信息技术交叉融合(BTIT)的主战场,代表了一种新兴的、具有潜在破坏性的技术领域。”5随着脑机接口技术逐渐为公众所熟知、相关产品逐渐为公众所使用,其有望成为改善民生福祉和造福人类社会的重要力量,但其潜在的应用风险也不可小觑。

(一)引发人身损害

尽管脑机接口技术在修复、增强或辅助人体的感知-运动功能方面展现出巨大潜力,但不容忽视的是,其应用可能引发人身损害风险。

首先是开颅手术的操作风险。侵入式脑机接口需要通过外科手术将设备植入使用者大脑内部,这一过程本身就不可避免地会对人体造成伤害,破坏大脑原有的生理屏障,可能引起出血、过敏、感染、炎症或者其他并发症。一旦手术操作不当,极有可能造成不可逆的大脑损伤。其次是植入物所引发的安全风险。植入物可能与周围神经组织无法兼容,即存在生物相容性和长期稳定性的问题,从而导致组织损伤或机体免疫排斥反应。此外,植入物长期存在于使用者大脑中可能会对大脑造成物理性损伤。再次是脑机接口系统的运行风险。该系统自身可能出现故障,对脑电信号的错误解读和意外干扰都可能导致脑部混乱,严重时甚至可能危及生命安全。此外,系统还可能受到医务人员、黑客、产品研发维护人员等对使用和控制脑机接口设备有职务或技术优势的群体的故意干扰。他们可以通过操纵脑机接口设备对使用者实施故意伤害。从次是神经信号误读的风险。非侵入式脑机接口虽然避开了手术风险,但因其难以捕捉稳定的脑电信号及对脑电信号的分辨率较低,增加了因信号误读而间接导致身体损伤的可能性。最后,由于当前科学界对人脑的认知、思维、情感与神经元活动之间的关系知之甚少,脑机接口技术还潜藏着许多未知和隐性的安全风险。综上所述,脑机接口技术的应用极有可能损伤使用者的大脑,损害其大脑机能,甚至导致死亡,危及使用者的身体完整、生理机能和生命安全。换言之,脑机接口技术的应用存在侵犯使用者身体权、健康权和生命权的法律风险。

此外,由于脑机接口技术的实际应用可能涉及使用者、医疗机构、医务人员以及脑机接口产品生产者、销售者等多方主体,因此在发生损害时,认定并划分这些主体的法律责任显得格外复杂。倘若损害源于产品的设计缺陷、制造缺陷或告知缺陷(未提供充分的警示和说明),则生产者需要承担产品责任。而在脑机接口设备植入、操作、术后护理等环节中,倘若因医务人员操作不当、诊断偏差或护理疏忽而导致患者受损,医疗机构及医务人员则需为此承担责任。倘若损害部分或全部归咎于使用者未按照医嘱或产品说明书正确使用脑机接口设备,或擅自修改设备设置和参数,则使用者自身亦需要承担一定比例的责任。在理论上,各方责任边界相对明确,易于区分。但在实践中,由于损害与产品缺陷之间的因果关系难以确定、技术成熟度与可预见性的限制(即根据当时的科技发展状况难以预见并防患该技术缺陷及其潜在损害),以及使用脑机接口技术较长时间后才可能显现损害结果等因素,认定和划分各方法律责任颇具挑战性。

(二)引发精神损害

复杂多样的神经活动塑造了个体的性格特质以及对世界的个性化理解和主观体验,这些精神层面的特性又构成了个体鲜明的身份标识,从而使之区别于其他人。虽然精神活动并非构成人之存在的唯一要素,但却是人类发展不同个性、成就独特自我的必要基础。在脑机接口技术尚未崭露头角的时代,人脑确实是精神世界的私密领地,人的思想动态、行为偏好、主观感受等精神活动都处于法律与技术难以触及和掌控的领域。然而,随着脑机接口技术的迅速发展,人类精神世界的传统边界正经历前所未有的突破,人脑作为精神活动的物质载体,其神秘面纱正在逐步被揭开。脑机接口技术能够影响和改变人的神经元活动,将以往难以捉摸、神秘莫测和无法触及的精神状态具象化,可以说在某种程度上让人脑可读、可控成为了现实,而这无疑意味着个体的精神私域“正面临被人踏足与侵犯的风险”6]86。一旦精神活动遭到干预甚至操控,个体的独特性将会受到削弱,甚至可能被剥夺,进而从根本上撼动人类尊严的本质基础。脑机接口技术的应用可能会导致使用者的精神隐私遭到窥探、精神完整遭到破坏以及自由意志遭到限制。

第一,精神隐私遭到窥探。脑机接口技术的产生和应用使得人类具备了窥探思想的能力7。脑机接口系统运行时,将自动收集使用者的神经信息和思维信息,并将其以符号、代码、数据的形式进行固定,使用者的思想意志得以以数字化形式保存。此时,以神经数据为载体,蕴含着个人精神隐私的信息将被彻底暴露在机器及背后的控制者面前。“脑机接口所进行的脑信号监控,无异于使脑隐私完全透明化,其中包括脑机接口的使用者并不愿意被展露出来的隐私信息。” [8]97-98相较于传统的隐私侵犯,使用者面临的损失可能更为惨重。这些损失不仅包括外貌、身体特征、居住地址和联系方式等物理隐私的泄露,还包括个性、偏好、情感状态乃至思想等深层次个人信息的暴露,甚至有些连使用者都未曾意识和无从获知的独特信息也可能被揭露。更令人担忧的是,这些反映个人深层次的性格偏好及思想观念的神经数据传输和存储(本地或云端)过程中,可能因设备故障而泄露,或者被黑客劫持用于恶意干预、商家营销、操纵或胁迫使用者等特殊目的9,进而对使用者造成二次精神损害。

第二,精神完整遭到破坏。脑机接口技术的应用可能导致个体的精神世界在非自愿的情况下遭受侵入、监控和干预,从而严重破坏其精神连续性和完整性。无论是在技术的试验阶段或是临床应用阶段,使用者都有可能因接受脑机接口的治疗而动摇人格同一性10。并且,脑机接口技术有极大可能性会扰乱人们对自我的认知。例如,长期接受脑机接口设备治疗的患者可能会怀疑自己对行为的控制11

第三,自由意志遭到限制。一直以来,控制自我意识被人类视为理所应当,人们可以在脑海中获得绝对自由。倘若人类连大脑的念头都无法决定,表达自由和行动自由便无从谈起。从某种意义上讲,认知自由几乎是所有其他自由的必要本体论基础12。但脑机接口技术的应用却将大脑置于“神经监控”之下,极大地加重了使用者的精神负担,并且他们可能会因为害怕暴露而改变甚至限制自己的思想、意识、价值观念和心理状态。

可见,脑机接口技术的应用不仅会对使用者造成生理层面的伤害,还可能对其造成精神层面损害。因此,伴随脑机接口技术的快速发展及广泛应用,如何保护人类的精神世界成为亟待关注和解决的重要法律议题。

(三)干预意思自治

维护行为自由乃是法律的核心价值之一,而这种自由的基石在于自然人的意思自治。然而,脑机接口技术通过在人脑与外界之间搭建起信息通道,不仅使得内心意思形成和外部表达形式相较传统的意思表示存在显著差异,而且还深度介入自然人意思表示的形成及表达过程中,影响甚至操控自然人意思表示的形成与表达,进而干预自然人的意思自治。

根据信息流向的不同,脑机接口存在由脑到机和由机到脑两种类型。由脑到机的脑机接口是指由人脑向外部设备传递信息,信息从人脑流向外界的脑机接口。具体而言,脑机接口系统通过将采集到的神经元电信号转换为计算机可识别的数字信号,再经由信息分析和处理后,将使用者意图转换为通信指令来操控外部设备。这种脑机接口可以帮助使用者表达内心意思或通过意念控制外物运动。目前,该技术的应用有意念打字、意念控制轮椅、机械臂、神经义肢等。然而,在此情境下,使用者通过由脑到机的脑机接口所形成并表达的意思表示是否具有法律效力?能否将其等同于一般自然人的意思表示?这些问题都需要进一步予以明确。

相反,由机到脑的脑机接口是指由外界设备向人脑传递信息,用于调节人脑感知的脑机接口。区别于收集、记录、转化和传递人脑信号的由脑到机的脑机接口,由机到脑的脑机接口通过人工技术手段增强甚至取代人类感官,从而使外界信号在人脑中激活感觉知觉,例如,自然感官障碍人群通过人工耳蜗和人工视网膜等装置可以重新感知外物,能够重拾听觉和视觉13。然而,在此过程中,由于设备对感知信息的干预和处理,自然人的感知和决策过程难免会带有机器决策的色彩。例如,智能轮椅在接收到使用者的转向指令时,若设备检测到潜在危险,它会将此信息反馈至大脑,从而可能阻止用户执行错误的转向决策14。在这种由机到脑的脑机接口运行场景中,由于受到外部设备反馈信息的数量、质量及设备自动化信息处理和决策程度等因素的影响,自然人或将面临信息窄化、信息偏差和决策权转移的风险,从而影响其信息掌握程度、综合判断能力以及独立决策能力,最终干预自然人的意思自治。此时,自然人基于外部设备反馈的信息所作出的意思表示是否有效?是否需要与通常的意思表示进行区别对待?这些问题有待学界进一步探讨。

此外,倘若脑机接口使用者在内心意思形成及对外表达的过程中,受到技术缺陷、设备故障、软件影响、人为控制、黑客入侵等因素的干预,从而导致其作出的意思表示与内心真意不符,那么该意思表示的法律效力如何?法律是否应当提供救济及如何提供救济?使用者在受到外界因素干预时所实施的违约、侵权、违法、犯罪等行为,又该如何认定、归结和承担法律责任?这些问题同样亟待法学界的深入研讨。随着脑机接口技术的快速发展及广泛应用,法律人将不可避免地需要审视并重新评估传统法学理论和既有法律规定对这一新兴技术的适配性及可规制性。

三、脑机接口技术应用风险的成因

充分理解并深入研究脑机接口技术应用风险的成因,是确保该技术健康发展并有效预防和控制应用风险的关键。脑机接口技术应用风险的成因在于人脑脆弱性与技术危害性相叠加、精神私密性与读脑必要性相对立以及科技创新性与法律滞后性相冲突。

(一)人脑脆弱性与技术危险性相叠加

人脑的质地极为柔软,非常容易破裂。而且,人脑的神经网络错综复杂,“人脑大约有1011个神经元,每个神经元又有104的机会与其他神经元联系” [15]6,任何对这些神经网络的干扰都可能引发严重的功能障碍,如癫痫发作、认知衰退、情绪障碍等。人脑的天然脆弱性意味着,哪怕是极其微小的物理损伤,比如轻微的撞击,或是体内化学物质的微小失衡,乃至环境中不可见的电磁波波动,都可能对人脑造成损伤。

尖端技术往往是双刃剑,危险与美丽常常相伴相生,越是极致的技术,就越能带来极致的功效或者破坏,脑机接口技术当然也不例外。历经长期的发展,脑机接口技术已取得了喜人的成绩,能够有效修复、增强或辅助使用者的感知-运动功能,展现出极大的医用和商用价值。但其在提升人类健康和福祉的同时,也对人脑造成了重大的安全威胁。脑机接口技术有非侵入式、半侵入式与侵入式三种脑电信号获取方式,其中电极植入的深度与其捕获神经元信号的精准度及监测、反馈效率之间都存在明显的正比关系。以侵入式脑机接口为例,虽然其较另外两种方式而言,可以获得更丰富和准确的神经信号,“并具有可逆性、刺激参数可调性与刺激位置可修订性等优势”16]37,从而可以实现更高性能的控制,但同时也伴随着更大的安全风险。具体而言,这些风险既包括外科手术带来的短期伤害,如植入物周围神经组织出血、损伤、感染、过敏及其他并发症,也包括植入物带来的长期伤害,例如,人体对植入物的排异反应、因维护植入物而衍生的风险、脑机接口设备失效需进行二次手术的风险、脑芯片植入可能导致情感和个性改变的风险,等等。

人脑的脆弱性与技术危害性并非孤立存在,而是存在相互增强的可能。脑机接口技术的固有危害可能会加剧人脑的脆弱性,而人脑的脆弱性也会放大该技术的危害性。当人脑在物理、生理及心理上的天然脆弱性与脑机接口技术固有的潜在危害及其在实际应用中可能衍生的风险相互叠加时,人脑受损的概率将大幅提升。

(二)精神私密性与读脑必要性相对立

精神世界的私密性是人格尊严和意志自由的重要基石。如果人的一切都可被外界轻易透视,沦为单纯的信息载体和评估对象,那么主体的尊严将荡然无存。虽然人类躯体容易受到外部力量的支配与约束,但大脑作为承载人类精神世界的物质基础,始终是个人自由和精神自决的最后庇护所。它营造了一个不被窥视和干扰的私密空间,在这里,个体不仅摆脱了外界规则或期待的束缚,展现出最真实的一面,还可以自由地探索自我、塑造个性和自主决断。这种私密性是形成独立人格、维护自我认同的关键,它使得每个人都能根据自己的价值观、信仰和情感来定义自己,而不致过度受制于他人或社会规范。并且,在没有外界监视和评判的精神私域,人们的思维最为活跃自由,敢于质疑、想象和创新。许多伟大的思想、艺术创作和科学突破都源于个人在私密空间中的深思熟虑。精神的私密性保护了这种自由探索的能力,是人类文明进步和知识拓展的温床。此外,在私密的精神世界中,人们可以安全地表达和处理自己的情绪,无论是喜悦、悲伤还是恐惧,都无须担心外界的误解或评判,这对于个体的心理健康具有积极的意义。

然而,脑机接口技术作为一项脑机交互技术,无论将其运用于医疗康复、军事、娱乐还是其他场景,采集和解析人脑神经元电信号都是其发挥作用的基础。脑机接口技术能够也必须读取和解码人脑信号,从而实现对使用者意图的准确把握。换言之,为了发挥脑机接口技术的功能,设备必须精确地解读使用者脑中的所思所想,即“读脑”。大脑信息原本是所有信息中最隐秘和私密的信息17,保护脑海中的思想、观念、情感、意愿和认知等高度个人化且敏感信息的私密性对于维护个体的自主性、自我认同、心理健康、情感安全和个性发展至关重要。然而,使用脑机接口技术将不可避免地导致使用者大脑深处的信息完全暴露在机器和人类面前,无论这些信息他们本人是否愿意让他人知晓。此时,精神的私密性面临着前所未有的威胁,个人的心理活动、情绪起伏乃至内心深处的私密幻想都可能成为他人审视甚至操纵的对象。

人类维护精神私密性的主观愿望与脑机接口技术“读脑”的客观需要相互对立。脑机接口技术在提升人类福祉的同时,不可避免地突破了精神世界的私密界限,带来了侵犯精神隐私、限制自由意志及破坏精神完整的新风险。

(三)科技创新性与法律滞后性相冲突

科技的持续创新是推动人类文明进步的重要引擎,它不仅关系到技术本身的先进程度,更关乎人类社会的共同福祉和可持续发展。脑机接口技术是神经科学、计算机科学、人体工程学、材料科学和认知科学等多学科交汇的产物,代表了科技前沿的创新方向,蕴含着无限的潜力。脑机接口技术通过在人脑和外部设备间搭建起信息通道,实现了人与机器直接通过脑电信号进行交流,为医疗康复、人机交互、认知增强等诸多领域带来了革命性的突破。例如,在医疗领域,脑机接口技术可以有效修复、增强或辅助患者受损的感知-运动功能,为肢体运动障碍、精神疾病、意识与认知障碍、癫痫和神经发育障碍等多种疾病诊治带来新的解决方案。目前,得益于多学科的快速发展,脑机接口技术持续迭代升级,应用场景愈加多元,产品供给日益丰富,产业发展不断加速。可以预见的是,在技术和产品不断成熟的未来,脑机接口技术必将得到更广泛的应用和进一步的发展,并将在全球掀起新的科技浪潮。

科技为人类社会带来了巨大的机遇,但同时法律滞后性的问题也愈加凸显。法律的滞后性是指“制定出来的法律与社会现实存在着一定的脱节现象,不能够满足社会发展的需求”18]173。立法者在制定法律时,由于受到认知局限、社会发展速度等因素的制约,往往无法预见并完全涵盖所有未来可能出现的新情况。因此,法律在某些情况下可能滞后于社会变革的步伐,导致其在实际应用中可能出现适应性不足或无法有效解决新兴问题的现象。并且,[DK]“法律滞后性与确定性是一体两面”19]74。出于维护社会秩序及保障法律可预测性的目的,法律也不能频繁变动。这种确定性需求也限制了法律对新兴事物的快速响应能力。

科技与法律的关系是法学领域经久不衰的议题。科技崇尚创新和发展,法律遵循先例和共识。“科技发展与法律规制存在步伐不匹配性”20]109,并且科技的发展速度往往远超法律的更新速度,这使得现有法律难以应对新技术所带来的新问题。“脑科技对人类的改造不是‘是否发生’的问题,而是‘何时发生’的问题。”21]64脑机接口技术的出现及蓬勃发展对传统的、止步于大脑之外的法学无疑形成了新挑战22,引发了一系列现行法律难以有效应对的问题。例如,自然人使用脑机接口所为之意思表示是否有效?当自然人使用的脑机接口系统受到外部因素干预时,其作出的意思表示效力如何?能否及如何撤销?大脑信息如何保护?自然人因使用脑机接口技术受到或给他人造成损害时法律责任如何归结?这些问题均鲜明地体现了科技创新性与法律滞后性之间的冲突。

四、脑机接口技术应用风险的法律规制

脑机接口技术作为一项具有革新性的前沿科技,在极大提升人类健康和福祉的同时,也引发了一系列应用风险。虽然我国目前尚未有针对脑机接口技术的专门性立法,但通过对现有法律制度的解释和调适可以提供部分规范供给。此外,脑机接口技术的特殊性也带来了一些现有法律体系难以应对的新风险,对此法律应当有所回应。

(一)采用动态知情同意模式

鉴于脑机接口技术主要应用于医疗场景,且该技术在临床实践中产生的人身损害风险最为常见和突出,所以有必要重点探讨如何在医疗领域中有效地应对因使用脑机接口技术而导致的人身损害风险。事实上,使用脑机接口技术可能对人体造成伤害并非该技术所独有,类似的隐患同样存在于心脏起搏器、人工关节等其他医疗植入物的使用过程中。知情同意制度是应对这类风险的重要制度,它旨在确保患者清楚知悉并准确理解潜在风险,同时尊重其基于所获信息作出的意愿表达,从而有效地保障患者的自主决定权。“病人的同意乃是医生实施侵袭性治疗行为合法性的前提。”23]94知情同意制度的核心是获得个人对医疗干预的自主授权。只有在取得患者或其近亲属明确且有效的同意授权时,脑机接口技术的医用行为才具备合法性和正当性的基础。然而,相较于心脏起搏器或人工关节等,该技术的独特之处在于其与人脑直接交互。这不仅可能影响患者的身体健康和生命安全,而且还可能影响患者的精神世界,进而影响患者的知情同意能力。此时,医务人员原先取得的同意授权可能面临失效或效力不足的问题。因此,为契合脑机接口技术的特殊性、尊重患者的自主性及保证知情同意的有效性,在脑机接口技术的医用场景中,不应采用传统的概括性同意模式或一次性同意模式,而应当采用动态知情同意模式。在患者使用脑机接口的过程中,医务人员应持续履行说明义务,并在患者的知情同意能力因使用脑机接口而改变时,向患者或其近亲属重新履行说明义务并再次取得同意授权。

1.持续履行说明义务

知情同意应以医务人员说明义务的充分履行和患者的准确理解为前提。在脑机接口技术的临床应用中,医务人员应详细具体地进行信息披露,告知的内容不仅应涵盖脑机接口技术的工作原理、预期疗效、可能影响和潜在风险,更要特别指出该技术对精神世界的干预及其对脑结构、脑功能、精神意识完整性的潜在影响,以及可能涉及的隐私问题,例如,该技术将获取、保存和使用患者的脑电波。但这显然增加了医务人员告知的难度和患者及其近亲属理解的难度。因此,医务人员应采用清晰、通俗、易懂且明确的语言进行书面和口头告知,并对不易理解的部分和重点内容进行单独告知。例如,对于脑机接口技术对精神世界的潜在危害,医务人员必要时可邀请神经科学家、心理学家等专业人士共同参与告知过程,确保患者对使用脑机接口技术可能带来的风险与效用有全面且透彻的理解。

此外,医务人员应持续履行说明义务。随着脑机接口研究和技术的快速发展,新的技术进步和风险点可能会不断涌现。当出现这些情况时,医务人员应当再次履行具体说明义务。这样可以确保患者及其近亲属能够及时了解最新的技术发展及新风险,以便他们根据技术现状和使用该技术可能带来的风险与效用调整自身的选择,从而为患者提供更为全面和持续的保护。

2.动态更新同意授权

《中华人民共和国民法典》(以下简称《民法典》)第一千二百一十九条规定了医务人员原则上应向患者履行说明义务,除非存在不能或者不宜向患者说明的情形,才可转向患者的近亲属进行说明并取得其明确同意。所谓“不能”是指在患者不具备完全的民事行为能力或在疾病状态下(如昏迷、神志不清、生命垂危等),无法自主做出决定的情形24。“患者是否具有完全的意思表示能力,是告知义务履行中的重大问题。”25]431如果患者具有完全民事行为能力,除非存在其他特殊情形,否则医务人员必须向患者本人履行告知义务。而对于无民事行为能力人或者限制民事行为能力人,医务人员应当向其监护人履行告知义务并取得其同意授权,自不待言。但由于限制民事行为能力人能够部分认识自己的行为和处境,所以笔者认为,医务人员也应对其进行充分告知并取得其明确同意。所谓“不宜”是指患者虽然具有完全民事行为能力,但告知后可能造成患者恐惧、悲观、心理负担沉重等不利于治疗的情形。医务人员原则上应取得患者的同意授权,在存在“不能”或“不宜”的情形时,才可以转向患者的近亲属取得同意授权。

然而,在脑机接口技术的临床应用过程中,患者知情同意的能力会受到疾病进程和脑机接口技术的影响,使得“不能”与“能”、“不宜”与 “适宜”之间会相互转化。换言之,患者极有可能因使用脑机接口技术而导致其认知、同意能力出现变化。这将导致医务人员原先取得的同意授权可能面临失效或效力不足的问题,此时医务人员应重新启动知情同意程序。具体而言,包括以下情形:原本具备完全民事行为能力并已知情同意的患者,可能因病情自然恶化或受到脑机接口技术影响而导致其知情同意能力急剧下降甚至丧失,从而完全不能辨认自己行为,即从“能”变成“不能”,此时医务人员应重新获取其近亲属的同意授权以补充增强患者原先的知情同意。当病情恶化只是部分减弱患者的认知能力和同意能力时,即从完全辨认减弱至不能完全辨认自己行为时,此时医务人员亦应取得其近亲属的补充同意。反之,若患者之前因存在“不能”或“不宜”的情形而不具备知情同意能力,医务人员仅取得其近亲属的知情同意。但如果后续这些情形消失,例如,未成年患者成长为成年人、患者因使用脑机接口技术而增强或恢复其知情同意能力等,医务人员应当对患者本人进行充分告知,并在重新征得本人的同意后方可继续使用脑机接口技术。因此,在脑机接口的医用场景中,知情同意应当是一个随着患者情况变化而进行动态更新的过程。医务人员应持续跟踪并阶段性评估患者的知情同意能力,并根据评估情况决定是否需要重新履行说明义务与再次取得同意授权,从而确保知情同意的有效性。

此外,动态知情同意模式还要求具有明确的撤销机制。由于个人难以真正理解脑机接口技术的安全风险,因而患者或其近亲属此前做出的知情同意可能并不能完全符合其真实意愿。此外,患者或其近亲属使用脑机接口技术的意愿可能因出现新情况或发现新风险而发生变动。因此,赋予及其近亲属患者在脑机接口使用过程中动态更新知情同意的权利,能够更好地保障患者自主权,尊重他们根据自身情况作出的判断和决策。而一旦患者或其近亲属决定停止使用脑机接口设备时,即撤销此前作出的同意授权时,医务人员有义务详细说明这可能引发的各种后果。

(二)构建人类神经权利体系

现有的法律规范不足以应对脑机接口技术的应用所引发的精神损害风险,因此应考虑以赋权的方式来保护人类的精神世界。“神经权利有望成为治理神经技术的一种共识性伦理规范。”26神经权利作为权利束,具体包括精神隐私权、精神完整权和意志自由权。

1.既有法律规范的局限性

持保守主义思想的学者可能认为,现有的规范体系足以应对脑机接口技术所带来的挑战。例如,有学者认为既有权利可以充分且合理地保护精神隐私,因而无须将其确立为一项新兴权利27。但单纯依赖现有的权利规范体系,确实无法完全解决问题28。随着脑机接口技术的发展达到一定程度,我国应该承认神经权利 [29

一方面,传统的法学理论及制度设计通常默认精神世界是无法穿透的领域,并基于这一假设,法律对精神世界的特别保护并未给予过多关注。然而,该假设因脑机接口技术的出现而受到了巨大的冲击。在公众以往的认知中,人脑被视为一个神秘世界,是人类最私密的领地和终极的隐私堡垒。脑机接口技术的革新突破了传统的人身界限,颅骨不再是隔绝内外世界的绝对壁垒。那种人类精神世界完全独立自主、人脑是不受任何外界力量侵犯的神圣领域的固有认知,似乎也越来越难以适应现代科技的发展。借助脑机接口技术,外部设备可以直接读取、解读甚至控制人脑活动,人类的内心想法可能如同日常外部行为那样变得可视化、可支配和可操纵,人脑信息也可能被非法访问、收集和利用。这无疑对人类的人格尊严、自由意志和精神隐私提出了新的法律保护需求。综上,以往认为人脑是绝对不受外界侵犯的领域这一认知,在脑机接口技术面前显然已经过时。这在一定程度上也反映了法律对人类精神世界负面干预的忽视30

另一方面,现有的制度规范对于人类精神世界的保护存在局限性。例如,尽管身体权、健康权和生命权可以在一定程度上保护因应用脑机接口技术而产生的精神损害问题,但可能无法涵盖那些不涉及身体健康,而只是单纯引起性格、情绪变化等精神状态改变的情况。换言之,若该技术对身体完整、生理机能或生命维系造成损害的同时还造成了精神损害,此时该精神损害才可能被法律所保护。《民法典》第一千一百八十三条规定,侵害自然人人身权益或者具有人身意义的特定物造成严重精神损害的,被侵权人有权请求精神损害赔偿。但若没有侵害身体完整、生理机能、生命维系或者其他权益,而只是单纯造成精神上的影响,现行法律往往难以提供有效救济。可见,目前的法律制度尚不足以完全应对脑机接口技术所引发的精神损害问题,未能对使用者的精神世界提供充足保护。

2.创建神经权利的正当性

当既有法律规范无法有效应对脑机接口技术可能引发的精神损害风险时,应考虑以赋权的方式来保护人类的精神世界。“神经权的提出就是因预防神经科技的罪孽、避免大脑信息滥用的混乱、保障人类神经权益而生。”31]67

首先,神经权利是人自然享有、与生俱来的权利。神经权利植根于自然法的理念,是基于人的内在尊严不可剥夺的权利。正如人的生命权、自由权和追求幸福的权利被认为是自然赋予的,人的神经权利也是在自然状态下产生的。人的神经活动,包括思想、情感和意愿,同样构成了个体的独特性和完整性。既然人对其身体享有所有权,同理推之,人也应该对其精神世界享有所有权。

其次,许多国家的宪法和国际公约均保护公民的思想自由、隐私权和人格尊严,神经活动直接反映了个体的思维状态和主观体验,对其进行保护实质上是上述权利在当代科技环境下的深层次延伸。随着技术的进步,侵犯神经活动的可能性逐渐增加。神经权利能够保护个人的神经活动免受外界的任意监控、操纵或剥削,确保每个人都能在科技发展中继续享有完整的个人自由、精神隐私和人格尊严。

最后,法律并非静止不变,而是随社会发展和科技进步不断适应和演化。回顾历史可以发现,个人权利的拓展与社会进步、技术演变息息相关。隐私权、个人信息权等就是在技术飞跃的背景下上升为法律上的权利。同样,以脑机接口技术为代表的神经技术,也相应催生出神经权利。神经权利可以确保个体免受外部技术干预,使每个人对其精神活动拥有排他的控制权和完全的自主权。神经权利的提出是人权保护领域对时代变迁的积极响应,体现了法律保护边界在面对新兴科技挑战时的拓宽与深化。“如果不为个人意志设置权利屏障,少数技术狂徒就可以解读、分析他人的脑电波数据,形成对他人的数字化控制,出现‘人吃人’的数字化奴隶社会,这将是文明社会的终结。”32

3.神经权利的具体内容

脑机接口技术通过在人脑与外部设备之间创建信息通道,从而在两者之间实现信息交互。根据信息传递的方向,这个双向交互可以划分为从内到外的“脑控”以及从外到内的“读脑”和“控脑”,“读脑”可能引发窥探和泄露精神隐私的风险,而“控脑”则可能破坏精神完整以及干涉自由意志。因此,笔者认为神经权利的主要内容包括:精神隐私权、精神完整权和自由意志权。

第一,精神隐私权。精神隐私权是指个体精神世界内的私密信息不受外界非法侵犯的权利。这一权利强调个体的私人秘密、情感体验、情绪状态和思想观念应当得到尊重和保护,不应被随意窥探或公之于众。脑机接口技术把可窥探的隐私空间从“脑外”扩展到了“脑内”,即他人不仅可能获得“外显”的隐私,也可能获取“内隐”的精神隐私。然而,当前关于隐私权的法律规定在保护神经隐私方面显得捉襟见肘。我国《民法典》第一千零三十二条第二款所指的私密空间、私密活动、私密信息多倾向于客观存在或已经表达出来且无须通过特殊辅助就能直接读取的私密信息,体现出较为明显的“实体性”特点。相比之下,精神隐私则需借助脑机接口技术才能触及,涉及的是隐藏在精神深处、未经表达和外化的思想观念、情感信念和个人秘密,体现出强烈的“抽象性”特征。因此,虽然隐私与精神隐私在“私密信息”上有交叉,但仍存在显著差异。精神隐私相较于传统隐私,具有更强的内在性、私密性和敏感性。“隐私权保护的逻辑局限难以容纳脑机接口(BCI)处理大脑信息引发的脑隐私概念,同时BCI技术的专业性和大脑神经元系统的复杂性使得脑隐私与隐私、脑数据和脑信息相异但又存在一定交叉。”33]128因此,单靠隐私权来保护精神隐私并不够,我国未来有必要在法律中规定精神隐私权。届时,自然人就可以直接通过行使精神隐私权来抵御他人肆意窥探其精神世界的行为并获得救济34。退一步讲,即使精神隐私权无法成为一个独立的权利,至少也会极大地深化和扩展隐私权的内涵与外延。

第二,精神完整权。所谓精神完整权是一种防御性权利,旨在保障个体的大脑活动、思想观念、心理感受及记忆痕迹的完整性不受到外界的干预。其核心是防止未经授权的大脑干预,以及个体在干预开始后有权随时终止干预35。脑机接口技术可能涉及个人特征的修改、心理体验的操纵及由此引发的个人身份认同的动摇(即“我是谁?”)等问题。因此,通过赋予人类以精神完整权,可以有效防范并制止第三方在未经同意的情况下破坏个体人格和精神的完整性。正如身体完整权(身体权)确保个体的身体不受外部干预一样,精神完整权也能保护个体的精神世界不受外部侵扰。

第三,自由意志权。所谓自由意志权是指人类作为拥有意识和理性的主体,对自己的精神活动所享有的自主决定、自我选择和自我控制而不受外界影响和操纵的权利。随着脑机接口技术的演进,其可能影响甚至操控个体的意志,从而部分或完全剥夺个人独立思考和自主决策的能力,进而损害人类的主体性。为了维护这一核心权益,法律应当尊重并保护个体对自身意志的自主掌控,避免其受到非法的操纵和侵犯。

其实,近年已有国外学者提议用神经权利来应对神经科技所引发的风险。2017 年, Ienca和Andorno提出,神经权应包括认知自由权、精神隐私权、精神完整权和心理连续性权36。同年,以哥伦比亚大学的Yuste为代表的神经科学家在Nature杂志发文指出,隐私权和知情同意权、主观能动性和身份认同、能力增强、偏见是神经技术和人工智能的四个伦理优先事项37。美国、西班牙、法国、智利、阿根廷等国家的学者对神经技术领域的法律真空状态感到担忧,并纷纷开展了相关研究。在国家立法层面,智利是世界上首个对神经技术进行专门立法并将“脑权利”纳入宪法的国家。智利《建立神经保护法案》载明,其立法目的为保护神经权利并对神经技术的研究、应用进行规范。智利宪法2021年修正案的第十九条第一款规定:“造福于人类的科学和技术的发展应该在尊重生命和身心完整的前提下进行。技术在人类身体上使用时应严格遵守法律设定的条件和限制,尤其要保护大脑活动及其产生的信息。”建构神经权利是适应未来科技发展和社会变迁的有效策略38,然而,目前对神经权利的证立、具体内容及保护方式的讨论方才起步,公众和学界仍需持续观察和不断探索才能形成共识。但无论如何,随着脑机接口技术的持续演进,既有的法律秩序必然需要进行相应的调整。

(三)完善民事法律行为规则

随着脑机接口技术的快速发展,人类对人脑的理解及操控能力显著增强。人脑从一个神秘莫测、无法触及且难以掌控的神秘领域,逐步转变为一个相对透明且可互动交流的空间。面对脑机接口技术带来的挑战,自然人的内心意思形成与外部表示形式可能出现新的特点和变化,因此有必要重新审视意思表示与民事法律行为的理论和规则,以确保法律能够适应由此技术发展引发的新情况。

1.意思表示的新形式

“行为者,人之精神作用,意识的现于身体之状态也。”39]302自然人通过行为来获得法律上的意义,而其行为又是大脑意识的作用结果和外显,因此,法律行为与人的意识紧密相连。任何法律行为都必然包含着意思表示,其“可分解为客观要件和主观要件。客观要件指外部表示行为,包括明示和默示。主观要件须具行为意思、表示意识及效果意思”40]17。然而,脑机接口技术通过读取人脑神经元信号并将其转换为诸如屏幕文字、虚拟语音、机械设备运动等外界指令,显然迥异于通常以口头、书面或肢体动作所为的意思表示。脑机接口技术的应用,使得个人意愿的形成及表达发生了根本性变化,并引发自然人使用该技术所为之意思表示是否等同于通常意思表示的疑问。

事实上,脑机接口技术虽然采用了非传统的表达途径,但其本质上传递的仍然是使用者大脑内的真实意愿。换言之,自然人使用脑机接口技术所为之意思表示虽然与通常的意思表示在形式上存在差异,但二者的源头都是使用者大脑内的真实意图。对于使用者而言,只要他们能正常进行脑部活动,就意味着其具备自主形成个人意愿的能力,无论这种意愿是以传统的口头、书面或行为形式表达,还是以捕获脑电信号并转化为机器执行指令的形式表达,均体现了自然人的内心意愿。并且,脑机接口技术对人脑信号的解读和转化,有望帮助那些过去可能被视为无民事行为能力或限制民事行为能力的成年人实现自我意愿表达的自由。例如,完全失去肌肉控制的闭锁综合征患者经由脑机接口设备,也能仅凭思维自由地进行一定的外部行为,不再完全依赖监护人的代理决策,从而真正实现对人类主体性的尊重。因此,法律需要适应这一技术变革,承认自然人可以通过脑机接口技术作出意思表示。

2.赋予使用者撤销权

脑机接口技术的应用在很大程度上可能会实质性地干预、影响甚至操控自然人意思表示的形成与表达,导致在表意受限的情况下,自然人作出的意示表示可能与内心真意不符。而这主要有以下两方面的原因:一是脑机接口技术本身存在的局限性,如硬件设备故障或失灵、算法程序崩溃或存在漏洞等,这可能导致脑机接口设备无法准确识别、捕捉、解码和转化脑电信号,进而导致自然人通过脑机接口所作出的意思表示与内心意愿不符。二是脑机接口设备可能受到内置算法自动化决策或外部因素的干扰,如机器自动决策、黑客利用技术优势、脑机接口研发者或生产者等后端人员利用特殊地位操控使用者的脑机接口设备,从而致使设备所表达之意愿与使用者的真实意愿存在出入。因此,面对这种情况时,既有的民事法律行为规则应根据脑机接口技术的特殊性作必要的调适,从而为使用者提供救济,以矫正此种不真实的意思表示。笔者认为,自然人使用脑机接口技术所为之意思表示原则上有效,但自然人若因设备故障或外界干预而作出不符内心真意的意思表示时,法律应赋予其撤销权。自然人在故障消失或干预消除后的合理期限内,有权撤销该意思表示。

3.差异化保护相对人

民事法律行为多为双方或多方法律行为,所以不仅要考虑使用者使用脑机接口的情况,亦要考虑相对人的利益。笔者认为,应根据相对人对使用者使用脑机接口技术是否知情进行差异化保护。

第一,若相对人知道或者应当知道使用者正在使用脑机接口技术,并与之进行涉及重大利益的民事法律行为时,此时应当设立知情相对人验证机制,即知情的相对人应当向使用者核实脑接设备是否正常运行。

设立此种验证机制能够尽可能地确保从使用者大脑信号中解读出来的意愿真实反映其内心诉求。作为制度配套,脑机接口生产者应当内嵌核查程序,用以评估脑机接口系统是否正常运行。例如,知情的相对人经过验证未能发现设备故障或黑客入侵等问题,则使用者作出的意思表示有效。知情相对人验证义务的履行并不当然排除使用者享有的撤销权。如果事后使用者能够证明脑机接口系统确实存在设备故障或外界干预,并导致其作出了不真实的意思表示,则使用者仍然享有撤销权。

第二,若相对人对使用者正在使用脑机接口技术不知情,并与之进行民事法律行为时,原则上该民事法律行为有效。但如果使用者能够证明由于设备故障或者黑客入侵等因素的干扰,导致其作出的意思表示与内心真意不符,则其享有撤销权。此种制度安排有助于平衡善意相对人与使用者之间的利益。这是因为,在脑机接口技术的使用过程中,人脑所产生的神经信号与外部设备所提供和反馈的信号相互交织、相互影响,共同促成使用者以脑电信号的方式来作出意思表示。试图在具体法律行为中精准量化人脑与机器各自在形成的意思表示中的贡献,无疑是一项成本巨大且难以实现的任务。鉴于使用者自身都无法准确分辨自身意志和系统干预,自然不能苛求相对人与之为民事法律行为时能准确判断41。同时,考虑到人格尊严、人身安全和隐私保护等因素,法律也不应强制要求使用者主动透露自己正在使用脑机接口技术的事实。

因此,不知情的相对人在与脑机接口使用者进行民事法律行为时,法律不应期待或苛求其必须知晓该使用者正在使用脑机接口技术。不知情的相对人可以合理信赖脑机接口使用者为一般的自然人,他们实施的民事法律行为原则上有效。但若确实因设备故障或外界干预导致使用者的意思表示不真实,法律不为使用者提供救济措施显失不合理。因此,使用者在故障消除或外界干扰终止后的合理期限内应享有撤销权。

五、结 语

随着脑机接口技术的持续发展和应用领域的日益扩大,未来机遇与风险并存,我们应当高度重视其潜在的应用风险,因为这不仅关系到个体的安全与福祉,也涉及社会秩序和伦理道德的深层次问题。本文阐述了脑机接口技术可能引发的应用风险,并在成因探讨的基础上提出相应的法律规制路径,以期对脑机接口技术的理性应用有所裨益。当然,脑机接口技术目前仍处于持续演进和不断发展的进程之中,其潜在的应用风险仍有待持续观察。但随着该技术的成熟和普及,现有法律秩序需要进行相应调整的趋势不可抵挡。囿于篇幅所限,本文对神经权利的证立与具体内容、精神隐私和传统隐私的区别等问题尚未进行具体展开和详细论证,对大脑数据的处理与保护规则、使用者因使用脑机接口技术受到或给他人造成损害时的法律责任归属与划分等问题也暂未进行探讨,留待日后专文研究。

参考文献:

[1] 中华人民共和国科学技术部.脑机接口研究伦理指引[EB/OL].(2024-02-02)[2024-02-26].https.//www.most.gov.cn/kjbgz/202402/t20240202_189582.html.

[2] 中国信息通信研究院.脑机接口技术发展与应用研究报告(2023年)[EB/OL].(2023-12-26)[2024-02-26]. http://www.caict.ac.cn/kxyj/qwfb/bps/202312/t20231226_468943.htm.

[3] 胡凌.理解技术规制的一般模式:以脑机接口为例[J].东方法学, 2021(4): 38-48.

[4] 肖峰.脑机接口技术的发展现状、难题与前景[J].人民论坛, 2023(16): 34-39.

[5] 陶虎.脑机接口:未来生命科学和信息技术交叉融合的主战场[N].光明日报,2021-06-03(16).

[6] 赵丽,李苏琦,王淑文.脑机接口技术支持学习情感识别的应用框架及反思[J].电化教育研究, 2023, 44 (5): 82-89.

[7] 秦长森,张校基. 论脑机接口技术对法秩序的挑战及其理性规制[J].山东行政学院学报, 2024(1): 41-49.

[8] 肖峰. 脑机接口技术的伦理难题与应循原则[J]. 中州学刊, 2022 (7): 95-102.

[9] 任静,李筱永,梁恒瑜,等.脑科学视角下经颅磁刺激治疗精神障碍的法律问题及对策研究[J].中国全科医学, 2024, 27 (8): 1015-1020.

[10] 吴佼玥,张博源,任静,等.输入型脑机接口技术临床应用的法律规制研究[J].医学与哲学, 2023, 44 (4): 62-66.

[11] 中国电子技术标准化研究院. 脑机接口标准化白皮书(2021版)[EB/OL].(2021-06-01)[2024-02-26].http.//www.nits.org.cn/index/article/3998.

[12]SOMMAGGIO P, MAZZOCCA M, GEROLA A, et al. Cognitive liberty. A first step towards a human neurorights declaration[EB/OL].(2017-11-01)[2024-02-26].https.//www.semanticscholar.org/paper/Cognitiveliberty.AfirststeptowardsahumanSommaggioMazzocca/c715c8d01d5d0d549 bd68f1b17df6357a58b29d8.

[13] 肖峰.人工感知:人类认知新形态及哲学新问题[J].探索与争鸣, 2022(11): 122-131,179-180.

[14] 叶岸滔.脑机接口技术:伦理问题与研究挑战[J].昆明理工大学学报(社会科学版), 2016, 16 (6): 8-14.

[15] 哈肯.大脑工作原理[M].郭治安,吕翎,译.上海:上海科学技术出版社,2000.

[16] 荆珊.情感脑机接口技术应用的伦理挑战与应对[J].自然辩证法研究, 2021, 37 (9): 35-41.

[17] DREW L.Agency and the algorithm[J].Nature,2019,571(7766):19-21.

[18] 黄辉. 法治评估的范畴:内涵、价值和类型 [J]. 江西社会科学, 2018, 38 (4): 169-176.

[19] 杨东. 监管科技:金融科技的监管挑战与维度建构 [J]. 中国社会科学, 2018(5): 69-91,205-206.

[20] 谢尧雯,赵鹏. 科技伦理治理机制及适度法制化发展 [J]. 科技进步与对策, 2021, 38 (16): 109-116.

[21] 张曼. 脑隐私法律概念建构:路径、特性与贡献 [J]. 东方法学, 2022(5): 60-73.

[22] 孟强.脑机接口侵权,法律怎么应对[N].光明日报,2023-11-25(05).

[23] 胡永庆. 知情同意理论中医生说明义务的构成 [J]. 法律科学.西北政法学院学报, 2005(1): 91-98.

[24] 杨丽珍.“告知后同意”:《民法典》第1219条第1款的解释论展开[J].西北大学学报(哲学社会科学版), 2020, 50 (6): 51-57.

[25] 最高人民法院民法典贯彻实施小组.中国人民共和国民法典侵权责任编理解与适用[M].北京:人民法院出版社,2020.

[26] 刘永安. 神经权利:神经技术的伦理规范[N]. 社会科学报, 2024-05-09 (05).

[27] 陈鲁夏. 精神隐私可以成为新兴权利吗? [J]. 环球法律评论, 2024, 46 (5): 89-104.

[28] 李学尧. “元宇宙”时代的神经技术与神经权利[J].东方法学, 2023 (6): 74-84.

[29] 曾益. 医用脑机接口数据隐私的法律规制:国际比较与启示 [J]. 卫生法学, 2024, 32 (4): 73-79.

[30] 吴佼玥,李筱永.脑机接口技术视角下神经权利的逻辑生成和规范路径[J]. 残疾人研究, 2022 (2): 44-53.

[31] 杨学科.论神经科技时代的神经权及其保障[J].科技与法律, 2019 (2): 66-73.

[32] 高艳东.保护神经权利,让技术向善[N].环球时报, 2020-12-22 (15).

[33] 张曼.脑隐私法律保护的制度建构[J].东方法学, 2023(5): 128-139.

[34] 童云峰. 数字时代神经权利的证立与穿透式保护 [J/OL]. 暨南学报(哲学社会科学版), 1-14[2024-10-06]. http://kns.cnki.net/kcms/detail/44.1285.C.20240827.1017.004.html.

[35] 李筱永. 脑机接口技术背景下精神完整权的逻辑证成和制度构想 [J]. 政法论丛, 2024(3): 45-57.

[36] IENCA M, ANDORNO R. Towards new human rights in the age of neuroscience and neurotechnology [J].Life Sciences,Society and Policy,2017,13(1):1-24.

[37] YUSTE R,GOERING S,BI G,et al.Four ethical priorities for neurotechnologies and AI[J].Nature,2017,551(7679):159-163.

[38] 曾睿,何伦凤.脑机接口技术多领域扩散的外溢风险及其规制[J].华南理工大学学报(社会科学版), 2023, 25 (1): 25-32.

[39] 史尚宽.民法总论[M].北京:中国政法大学出版社, 2000.

[40] 王泽鉴.民法思维:请求权基础理论体系[M].北京:北京大学出版社,2022.

[41] 孟强.脑机接口技术运用中自然人的意思自治与责任承担[J].北京理工大学学报(社会科学版), 2023, 25 (6): 69-82.

Application Risks and Legal Regulations of BrainComputer Interface Technology

HUANG Yongzhen

(School of Marxism, University of Chinese Academy of Social Sciences, Beijing 102488, China)

Abstract:Brain computer interface technology has great potential in improving human health and wellbeing.However, its applications may pose risks such as"physical harm, psychological damage, and interference with autonomy of will.The underlying causes lie in the overlap between the brains vulnerability and the potential dangers of the technology, the conflict between spiritual privacy and the necessity of reading the brain, and the tension between technological innovation and legal lag. Therefore, a dynamic informed consent model should be adopted, and medical personnel should fully and continuously fulfill their obligation to explain, and periodically evaluate the patients ability to give informed consent, and decide whether to obtain consent authorization again depending on the situation.It also needs to establish a human neural rights system, including the rights to mental privacy, mental integrity, and free will.The rules of civil juristic act should be improved, and the law should recognize that natural persons can make an expression of intent through brain computer interface technology. A natural person should have the right"of"revocation when they make an expression of intent that does not reflect their true intention due to equipment malfunction or external interference, and differential protection should be provided based on whether the other party is aware of the situation.

Key words:artificial intelligence; brain computer interface; mental injury; neural right

基金项目:国家社会科学基金青年项目“数字化与‘法律创生’原理阐发和机制构建”(23CFX078)。

作者简介:黄永镇(1998—),男,博士研究生,主要研究方向为民商法、法学理论。

猜你喜欢

人工智能
我校新增“人工智能”本科专业
用“小AI”解决人工智能的“大”烦恼
当人工智能遇见再制造
2019:人工智能
AI人工智能解疑答问
人工智能与就业
基于人工智能的电力系统自动化控制
人工智能,来了
数读人工智能
人工智能来了