论基因编辑的风险及法律规制

陈博文，胡尚慧

(1.华东政法大学 刑事司法学院，上海 201620；2.浙江省台州市黄岩区人民法院,浙江 台州 318020)

一、基因编辑的问题提出

当前世界正处于科技飞速发展的阶段，人类信息化水平不断提升，科学研究也不断深入。近年来，人工智能(Artificial Intelligence)被广泛应用于各个领域，不可否认的是我们正在享受“后人类时代”技术革命的红利。与此同时，人工智能的创造者也不再由科学家独享，科研主体渐渐向着研究群体转移，贺建奎便是其中之一。近日，世界上首例基因编辑在我国诞生，引来了极大的非议，这让人们认识到我们固有的生态文化秩序正在承受着AI时代下的科技滥用风险及伦理冲突考验。基因编辑在某种意义上，已超越人类所能掌控的领域，成为一场涵盖理论与实践的“法律变革”和升级转型[1]，需要认真对待和有效回应。

2018年11月，中国深圳的科学家贺建奎宣布，一对名为露露和娜娜的基因编辑婴儿正式诞生。由于这对双胞胎的一个基因被编辑，她们出生后即能抵抗艾滋病。消息一出立即引发广泛质疑，质疑的角度大多围绕着“基因编辑”展开。

基因编辑，是一种通过生物技术人为地对人体内的基因进行修改，进而可以抵抗某种疾病。基因编辑不同于试管婴儿技术的是，它多了一个步骤：在受精卵阶段，试验者用一种特殊的“CRISPR/Cas9”①基因编辑技术，改变了受精卵内的基因，删除了对艾滋病毒有辅助作用的受体基因CCR5，从而使其对艾滋病完全免疫。然而，学界争论的焦点在于这是否是科技滥用的现象。有学者认为基因编辑反映的是人工智能资本化的趋势，资本市场不会放过人工智能产生的巨大利益，很难阻止其无序地开发，违反使用，于是滥用的风险大大增加，资本化将成为主要的诱发因素之一。[2]也有学者认为人类与智能之间正在形成一种不合理的伦理关系。原因是人类作为人工智能的创造者，在心理上和道德上拥有强大的优越感，这种优越感将成为一种潜在因素成为二者矛盾的中心点，未来可能将围绕这个矛盾产生许多不可预料的风险。

针对基因编辑这一现象，笔者认为，基因编辑所涉及的问题从本质上来说是一种科学技术滥用，是科研伦理道德的一次滑坡。著名的阿西莫夫“机器人三定律”②最早对人工智能做出规则限定，提到了人工智能领域的科研规范。不论是在经济、政治或者医学领域，笔者认为基因编辑技术人为地改变人类生存发展的客观规律，虽能防治疾病，但是基因编辑从根本上来讲不排除是属于“人造人”的人体试验：这不仅大大增加了造体成长的风险，基因婴儿更是按照科学家意愿删除人体缺陷的产物，看上去造福人类，实际上无异于“人造人”。

二、基因编辑的多维风险及其法律供给分析

(一)基因编辑风险出现的必然性

基因编辑的出现尽管惹来争议，但不可否认的是这是人工智能大趋势下不可避免出现的问题。谈到基因编辑风险出现的必然性，就会谈到人工智能出现的必然性。随着人类在计算、大数据、互联网等领域的迅速发展，人工智能的生产成本不断降低，形式与功能不断革新，在某些特殊领域已深入人类日常生活中，成为不可分割的重要主体。随着人工智能融入人类生活，人类对人工智能会产生依赖性，在许多难题的解决上会求助于人工智能，基因编辑解决艾滋病的案例便是一个典型。因此，基因编辑出现的必然性在科学视域方面就是人工智能发展的必然性。

人工智能趋势在发展过程中往往会存在一个越界的问题，而科学家急于求成的心态使他们忽略了人类生存发展的规律。在科学与伦理之间并没有一个清晰的界限，站在科学角度，主要探索的思路是解决现实问题，不会将伦理考虑其中。而随着人工智能在更多的领域得到应用，特别是生物医学领域，涉及伦理冲突将会愈发多见，特别是基因领域的“潘多拉魔盒”一旦被打开，这个未知领域充满的利益与探索的渴望将会再度放大，对于没有能力打开魔盒的人，他们必然持着反对的态度。正如学者冯象所说，人工智能与人类的矛盾激发将会导致人类群体要因人工智能的出现而丧失出身、学历和技能的优势，一起堕于失业；人工智能要借大数据为财产而独占：未来可以为所欲为，顶层设计一切，甚至可以实现在大脑植入芯片，达到人机融合的境界。

因此，人工智能趋势的不可逆，必然带来基因编辑的冲突，这是人工智能在生物探索领域必然产生的难题，而经济、政治以及各阶级间的矛盾，必然加剧人类对基因编辑的激烈讨论。

(二)基因编辑风险存在的现实性

霍金曾于2014年在英国广播公司(BBC)的一次演讲中提到“人工智能的全方面发展可能招致人类灭绝”。人类对人工智能的担忧是一直存在的，由人工智能引发的基因编辑冲突更是讨论的焦点。

首先，风险性体现在基因编辑的人工智能可能成为犯罪的主体。基因编辑的风险性更多指的是其在法律领域的评估，例如犯罪可能性。因此，必然先讨论人工智能是否可以成为犯罪的主体。根据阿西莫夫“机器人三定律”，机器人犯罪是不存在的，然而随着人工智能被赋予更多的可能性，未来将会客观存在。我国刑法中的犯罪主体是指实施危害社会的行为、依法应当负刑事责任的自然人和单位。人工智能在目前尚未具备成为犯罪主体的条件，但不可忽视的是当下人工智能体可借助算法、大数据整理和深度学习能力等方式在某一特定领域拥有许多独特的优势，甚至已经具备超越人类大脑的水平。因此，有许多学者提出假设人工智能体的犯罪形态达到一定的复杂程度，既存在其自身的主观故意、客观违法，又存在不法分子的“操纵”事实，即人工智能体和人类犯罪主体对犯罪事实在主观客观上达到高度“契合”的要件标准时，则可借鉴单位犯罪中双罚制的标准，依据现实情况适时采取刑罚措施[3],以期及时阻止风险的继续扩大。

其次，风险性也体现在基因编辑的人工智能可以成为犯罪的客体或成就条件。之所以肯定其可以成为犯罪客体或成就条件，很大一部分原因是因为人工智能所展现出来的无所不能。因此，利用人工智能的高智商犯罪可能出现，此时侦查机关的破案能力将不足以高效破获犯罪。犯罪分子所掌握的智能化水平越高，风险性将会越大。

最后，风险性还体现在基因编辑产生问题的不可逆转性。例如,基因编辑所产生的露露和娜娜，若基因编辑出现错误，两个孩子的成长将不会有人对其负责，也没有“回厂重装”的可能性。这仅是一个缩影，但是可以认识到的是人工智能技术的不成熟必然会产生副作用，当应用到人类身上时，这种副作用将是无法逆转的。当人工智能在外形和智能程度上都无限接近甚至超越人类时，我们不能期待人类坚守住固有的伦理道德体系与社会秩序规范。

(三)基因编辑法律规制的不足

我国现行法律对于基因编辑的规定缺乏系统的规范，大部分形式是零散的条例、规范。国务院2017年7月8日发布的《新一代人工智能发展规划》提到“要更好发挥政府在规划引导、政策支持、安全防范、市场监管、环境营造、伦理法规制定等方面的重要作用”。在人工智能迅速发展的今天，需要对人工智能理论、技术和应用作出前瞻布局,同时也要呼吁加强相关法律、伦理和社会问题研究,适时建立人工智能法律法规、伦理规范和政策体系。

现行基本法与各部门法均未对基因编辑做出规范，其他领域的规定也不具有说服力。学界对此问题早有探讨，围绕着“机器人刑法”与“传统刑法修正”两个观点进行讨论，而不论是哪一种方案，本质上都是对基因编辑进行立法规范。在人工智能研究领域，也有科学家提出“算法即法律”的观点，但随即遭到否决，反对者认为一个规范的法律体系应该具有全面(comprehensive)且至高无上(supreme)的性质，这是法律在体系概念上的要求。[4]全面性的意义是法律体系需要有自我调整的举动且需涵盖多种类型，因此必须具备多样化的制度体系。因此，“算法即法律”的观点并未得到认可。

三、基因编辑法律规制的必要性

(一)科研伦理冲突需要法律规制

基因编辑的冲突主体是人类与人工智能。人工智能，由人类创造，“人工”一词意味着人工智能的创造者必然是人类群体,如同中国古代神话故事里女娲创造了人类一样;人类作为人工智能的创造者,人工智能最主要的功能是在各个领域为人类提供所需的帮助与服务。[5]当AI超越为人类提供服务的范畴，产生伦理犯罪时，人类的生存意识便会被激发。伦理犯罪可能的形式是通过基因的改造产生“人造人”或者类人型机器人，一旦基因存在的巨大数据库被AI所了解，那么其产生的破坏性将超出人类的可控范围。“阿尔法狗”的投资人坚恩·托林曾经在一个访谈中指出，人类对于人工智能的研究目标应该重新定义,不只是停留于单纯的研究开发与目的应用上,而是追求能服务于人类当代价值观的超级智慧体。然而价值观因人而异，当错误的价值观(错误的伦理观)被植入AI的核心处理中枢，AI的行为必然会与社会秩序规范相悖。

冲突产生的后果是人类发展规律将会重新被思考，贺建奎所描述的艾滋病③防治一旦成行，便意味着人类可以通过基因编辑拥有一次再生的机会，这本质与“人造人”相同，将是对人类生存价值观的一次冲击。一旦自然人的价值观接受基因编辑的合法性，那将会产生新一轮的基因争夺战，法制将会再一次接受冲击与考验。

通过法律对基因编辑进行规范是合理的。通过法律约束伦理越界的行为有助于起到防范的作用。如果有充分的理由认为这些愿景是合理的，那么至少可以开始就与人类提升相关的许多伦理问题进行对话，这一点似乎是谨慎的，特别是因为道德伦理在历史上似乎落后于技术和其他快速发展的事件。通过提前规划，我们可以更好地制定适当的法规。

(二)基因编辑超越现行法律调整的范围

法益所指的是法律所保护的利益，基因编辑存在着侵犯法益的可能性，笔者认为有三个主要原因：

首先，基因编辑将会产生新型伦理犯罪。随着人工智能的不断升级，人工智能全面性提高，不排除会产生机器人犯罪或人类利用机器人犯罪两种情况。基因编辑最主要的问题在于将人工智能应用于人类本身，一旦出现副作用将会对试验体造成不可挽回的危害，而主要限制性条件在于我国并没有相应的立法，只能通过解释伤害型犯罪的方法进行定罪量刑。更为严重的是伦理犯罪本就十分棘手，通过智能的载体无疑将会产生更大的危害。霍金曾警告说:“由于人类受到缓慢的生物进化的限制，未来在各个领域将落后于人工智能，最终将会面临被代替。”[6]基因编辑领域最为薄弱，恐将成为重灾区。

其次，基因编辑导致的科技滥用需要法律指引发展。有学者用化学反应方程式表达这么一个观点：将人工智能的犯罪行为产生的原因和过程用动态形式与具有犯罪人格的人类主体相加，之后和犯罪环境相互作用，在犯罪机会的催化下，产生犯罪行为。人工智能在导致犯罪几率增加的基础上，将会引发系列基因争夺战，将会对社会公平正义进行破坏。同时，基因编辑涉及的科技滥用问题将引发公平危机，处于技术弱端的一方将无法享受红利，在技术强端利用基因编辑技术进行恶性竞争时，必然引发社会不公的现象。例如本案例中，基因编辑通过CRISPR/Cas9技术对艾滋病进行防范，但必然有弱势群体无法得到救助，即便技术得到允许，也将有无数患病群体得不到受益而产生公平危机。

最后，基因编辑的普及将造成不可调和的风险。随着人工智能技术覆盖面不断拓宽，一旦出现问题将有极大可能造成“牵一发而动全身”的危险局面。[7]换而言之，当基因编辑涉及更多的领域时，政府的调控能力就会显著下降，而我国对于基因编辑的规范尚不完善，一旦出现失控，政府难以及时把控，贺建奎的基因编辑案便是典型。另一方面就概率论而言，犯罪危害性与科学滥用成正比的前提下，基因编辑覆盖面越广，犯罪发生可能性就越高。

在基因编辑等新生领域，法律体系自身不存在自主升级的功能，需要通过立法者的主观能动性结合客观实际进行完善。因此，人类作为权利主体且具有自由意志是近代法律体系建立的基础，一旦人机界限变得越来越模糊，“人”的概念将面临种种挑战，而以此为基础的法律体系也就面临重构。

四、基因编辑的法律规制之完善路径

基因编辑涉及的法律涵盖刑法、民法、知识产权法以及信息技术相关立法。在刑法角度看，人工智能机器若作为犯罪主体，其一旦发生或遭受损害应如何认定，惩罚措施如何施加将是一个难题？人机界限的模糊使得在某些情况下遭受损害的评价变得复杂。[8]在基因编辑越发成熟的当下，生物领域立法也面临重构。围绕伦理为主题的立法范围将有所调整，生物领域的禁用范围也将扩大，是否将进一步调整也将引发进一步的思考。可以肯定的是人工智能不论是否侵犯人类伦理道德秩序，只要其领域不断扩大，我们的立法便要不断地跟进调整，必要时可以通过立法进行规范。

(一)重视法律在基因编辑领域的指引作用

很长时间以来，人们把人工智能视为不完全体，认为人工智能在发展阶段上仍处于人类的可控阶段。而人工智能的研究则一直处于科研机构的严格保护，人工智能的发展程度社会大众很难进行把握，本案中的基因编辑若未公开，社会大众也不会认识到人工智能在基因领域的研究深度。可见，社会大众对人工智能的认识尚处于初级阶段，因此忽视了人机领域的法律规制。

随着基因编辑冲突的出现，人们再次认识到人机领域法制的重要性，这其中最重要的就是重视科学技术活动运用中人的个性发展以及人的理性培养。人类使用科技的本质的目的是领域适用性及利益相关性，因此，科技的运用从一开始便将人的理性局限于解决技术问题的层面上，科技逐渐形成了一种支配、控制人的霸权力量。其中，科技对人类理性的限制最具危险性，理性受限最直接的伤害是法律的目的无法实现，导致科技领域出现许多违法的不理性因素，滥用基因编辑便是体现之一。因此，人机领域应注重非理性因素排除，特别是对人工智能抱有极大幻想的科学家，总是希望以牺牲伦理为代价来发展人工智能。这类科学家将成为我们法律规范、指引的重要对象之一。

(二)加快基因编辑领域的立法进程

对基因编辑进行规范，首要就是对其进行立法。相比国外，我国立法进程已相对落后。联合国教科文组织与世界科学知识与技术伦理委员会联合发布的报告(2016年)就已对人工智能的进步所带来的社会、法律与伦理道德问题进行讨论。[9]2016年5月，欧盟议会法律事务委员会发布《就机器人民事法律规则向欧盟委员会提出立法建议的报告(草案)》为人工智能的使用制定法律框架。自21世纪以来，日本③(《基因规范法》)、美国④(2015年白宫科技政策办公室通知及美国国立卫生研究所声明)、英国⑤(《机器人技术和人工智能》)等多个国家也对基因编辑进行了规制。

我国现阶段主要以《新一代人工智能发展规划》为主，然而《规划》中只提到了应对基因编辑进行规范，并未有具体的规范措施。对于人工智能的伦理方面的立法，有学者提出在刑法中增设滥用人工智能罪、人工智能事故罪，并事实赋予人工智能刑事责任主体能力。事实上这与规制基因编辑所产生的后果是相符合的。也有学者认为立法应促进培育人工智能发展和创新的有利环境，不宜过早对人工智能领域进行全行业的过度法律干预。[10]

笔者认为，人工智能的立法不宜范围过大，以免限制其发展。然而在基因编辑领域应充分衡量法律后果，并将其视为重点关注区，特别是在其后果不可逆的前提下，可采用“重点治理”的原则对其进行严格规定，为人工智能可以涉及的领域进行严格限制，并严格规制人工智能的实践应用。

(三)构建全面的科研伦理规范体系

对于科学研究而言,广义上的法律规范应当包括伦理规范的引导、补充和衔接。[11]基因工程一直是学界纷争的问题，人类最大的恐惧并不是担心基因工程的爆发性，而是担心没有规范的科研会产生不可预料的结果。就短期来看，我国在科研建设中的伦理规范尚属空白，在立法进程相对滞后的背景下，为防止科研与伦理严重相悖离，应倡导可以被普遍接受的科研伦理价值观；从长远来看，能使人工智能在正确的轨道上飞速发展，又不用担心人工智能的“副作用”，建立科研伦理规范体系是必不可少的。

笔者认为科研伦理的规范应有几个元素：公开、诚信、理性。公开要求科研成果必须向社会公开，并允许社会对其风险性进行评估，敢于接受批评与检验；诚信要求科研应遵守自然人本质的价值观，不能从事超越伦理认知而以个人利益为核心的科学研究，科研应用于实践应向有关部门进行报备；理性要求科研工作者应时刻保持清醒的认知，清楚科研的目的以及思考成果是否将产生危害，成果应用于实践应该谨慎，防止出现不可逆的损害。

法律规范生活中的方方面面，当人工智能领域渐渐成为独立领域，法律应当及时介入。

五、结语

人工智能渐渐成为社会发展的主题之一，同时也给社会带来了隐形的压力。法律的根本任务是守护伦理底线，在尊重秩序的前提下，以富有尊严的方式丰富人的存在价值及社会价值。从智能发展趋势看，人类和人工智能的界限开始模糊，正如道金斯所说“自私的基因”的生存机器。[12]随着科学技术的不断发展与普及，基因编辑的立法压力有增无减。基因编辑未来或许是一种先进技术，然而当下的背景并不适合基因编辑现实应用。因此，通过法律对基因编辑领域进行规范，不仅可以推动人工智能安全快速地发展，还对于基因编辑在科研领域的和谐发展具有重要意义。

未来应针对基因编辑技术上的风险性确定法律规制的基本内容，形成以科研规范立法为核心、与伦理规范相结合的法律规范体系，制定相关法律，以对基因编辑技术进行全方位、全领域、全过程的风险规制。

注释：

①CRISPR/Cas9是继“锌指核酸内切酶(ZFN)”“类转录激活因子效应物核酸酶(TALEN)”之后出现的第三代“基因组定点编辑技术”，被认为能够在活细胞中最有效、最便捷地“编辑”任何基因。

②阿西莫夫“机器人三定律”包含：LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.(第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管)；LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.(第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外)；LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.(第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存)。

③2002年日本通过了《规范基因技术法》,对于生产人类基因个体、人与动物基因改良或混合个体的行为予以禁止,违反者处十年以下有期徒刑,单处或并处1000万日元以下罚金。

④白宫科技政策办公室(2015)，关于基因组编辑的通知；美国国立卫生研究院(2015)，人类胚胎基因编辑的NIH资助声明。

⑤英国不允许对人类胚胎进行基因编辑干预后移植入子宫，因此如果要把经基因编辑修改的胚胎、精子和卵细胞用于生殖目的，必须首先修改相关法律。