新时代高科技伦理的困境与应对(上)

新兴技术发展与风险伦理规约

张成岗 清华大学社会科学学院 教授

如何驾驭快速发展的新兴技术，迎接新兴技术带给人类的新变化和新愿景，应对扰动性较大的生命技术、人工智能等带给人类社会的新挑战，是当前亟待回应的重大课题。2018年11月世界首例基因编辑婴儿的出生导致各界 “恐慌性热议”， 遭到全球学术界的普遍谴责。各界的关注既有对技术发展伦理规约体系滞后的反思，更有对新技术应用后果不确定性风险的深层担忧： “技术是不是在更深层次上与风险形成共谋” “人类是不是在玩正确的游戏” “人类是不是沿着正确的方向在走”毫无疑问，没有人愿意接受一个人类自身不能认识、不能预测、不能控制的未来，没有人愿意承担在貌似的进步中丧失人类自身的风险。笔者认为，对于生命伦理的 “恐慌性热议”可以成为理性之起点，而不能成为非理性因噎废食之终点；推动社会发展既需客观的科学研究之努力，又需冷静的伦理规范之反思。

1 技术发展中的 “不均衡悖论”对现代性伦理的挑战

技术发展具有技术、社会、文化、生态、伦理等多重维度，对技术的全面整体性认知要避免 “就技术论技术”的线性逻辑，社会愿望与需求一直是影响技术发展速度与方向的重要力量，对技术的深入理解离不开技术发展的社会语境。现代技术发展呈现指数增长，现代技术应用产生的影响与规模已经导致了新的历史情景，表现在： “从自然在危害人类”转化到 “人类在危害自然”；从 “技术是工具”转换到 “技术是目的”；从 “技术活动指向外部”转为 “指向人自身”；技术活动从 “个人行善”转为 “集体冒险”。

技术社会的出现及其演化为人类提出了两个共时性问题：在工具世界中如何保证人的主人地位？人类文明与新技术是否和如何兼容？ 实际上,工业社会以来的历史发展表明，所有技术社会形态都在面对三重逻辑悖逆：① “主奴悖论”：制造者与制造物关系悖逆，如何防止技术失控？② “不均衡悖论”：技术与社会制衡力量的不均衡发展悖论；③ “工具和目的悖论”：技术作为工具角色与技术成为整体性生活方式统摄的悖逆。20世纪以来，技术的快速发展与相应社会规范体系缓慢演化之间的 “不均衡悖论”日益凸显，技术的指数增长对社会伦理规约体系带来巨大挑战。正如鲍曼在 《后现代伦理学》中指出，现代技术表明人类行为可能对事物产生巨大影响,而人类的道德能力却不能做出相匹配的拓展。在阿伦特所形容的 “无人控制的”结构平台上，在面对指定任务和程序性规则双重力量时，作为道德主体的行为者，变得哑口无言、不知所措。在现代性伦理学中，现代技术行为的目标是人的具体特性而非整体的人，技术行为的道德评价被相对忽略了。毫无疑问，新兴技术的发展为人类社会生活提供了多种可能性，如何从伦理学上加以规范，提出 “应该如何做”的问题，是摆在伦理学面前的一个重要挑战。现代性伦理学是理解技术的重要背景，在新的历史情境下，应当对道德规范的 “应该”、技术行为的 “能”与现实条件下的 “是”之间的交互作用进行新的反思。

现代技术发展带来了新的历史情境及人类行为模式的变革，人类行为已经从近距离行为转变为远距离行为。由于现代技术已经在新的时空结构、新的规模上进行，传统伦理学框架已经不能对技术行为目标和结果进行有效调控。传统伦理学局限性表现在：很少或者几乎没有涉及自然本身的价值、权力与意义；未顾及遥远的人类与世界未来，对人类作为一个种类的整体性存在缺乏关注；着眼于某个具体行为的本身的道德性，而不注重对行为后果评价。随着技术结构和社会结构、伦理体系的不匹配问题激增，技术的增长速度过快，社会结构、伦理还不能及时做好应对技术增长的准备，就会导致社会恐慌性认知和不稳定因素的产生。

2 风险、不确定性与技术伦理规约

社会生活的稳定在很大程度上依赖于社会成员对共同约定的道德规范、伦理规则之遵守，通过对规范、规则遵守，社会共同体的存在能获得一种安全感。当下，融合了技术力量的 “远距离行为”越来越多地成为在 “公共领域”引起争论的行为，转基因食品、克隆生命、基因编辑婴儿等无疑都在对一般的社会价值和道德规范形成挑战，或者表明了特定的价值体系的冲突。技术进步观念的另一极端立场是对技术进步毫无批判的接受，尽管从 “科学无禁区”的角度，科学家有进行基因编辑技术研究的权利，但是如果研究结果及其应用构成对社会秩序的威胁，涉及对人的尊严的侵犯，那么该研究行为就应当得到法律、社会规范及伦理价值的规约。尽管带来人类福祉，当代科学技术同时也是巨大甚至可怕的力量，伦理学与法律是解决技术社会控制的重要手段。按照贝克的理解，在风险社会中不明确的和无法预料的后果将成为历史和社会发展的主要力量，尽管风险只是一种发生的可能性，但是危险一次证实有可能意味着无可挽回的后果。新技术发展的未知性、新技术社会后果的不确定性，以及与新技术产物互动的无法预见的结果，导致新技术的风险问题。技术风险必然带来相应的伦理问题，这些问题既包括我们应对可能风险所采取的措施本身的伦理问题，也包括在风险应对过程中，社会共同体内部互动中产生的伦理问题。

科技成果之应用是如何被认定为对人们健康、福利甚至人类自身构成风险的？风险社会学的研究表明：一般而言，人们依赖媒体来了解技术应用的健康风险、生命安全威胁等；医疗机构有定义风险的权力，但人们越来越对医疗机构和政策制定者提供可信赖风险解释能力表示怀疑；在媒体信息渠道多元的情况下，最有可能消除公众恐慌的专家意见会被采纳。在此情形下，伦理学研究中的预防原则值得提倡：在即便没有获取确切证据的情形下，以所能设想的最糟糕情形作为预防性行动之基础。

如果我们能找出风险问题中的确定性行为的基础，就可以发现决定论式的决策和行为规范的问题所在。技术发展后果往往具有不可预料性，技术后果在总体上可以分为 “不可预测但在意料之中”和 “不可预测且在意料之外”，不可预测性是技术过程的显著标志和内在特征。风险伦理的一个基本假定就是认为人类需要应对风险和不确定性，但并不是把不确定性变为确定性，而是要与不确定性共存。风险伦理规约的核心就是在保持相关主体的不确定性，并重新在不确定性情景中进行风险决策。

历史地看，20世纪的生物技术发展包括DNA双螺旋结构的发现、生命遗传密码的破译等，翻开了从分子水平探测人类奥秘的新篇章；21世纪被称为 “生物技术世纪”。近年来，生物技术、人工智能技术等新兴技术的发展一直在动摇、冲击着现代性伦理学的理性根基，带给我们诸多不得不思考的问题。目前基因编辑技术在人类胚胎上的应用仍然面临新技术发展中的不确定性难题以及伦理规约问题，除了造成不必要的个体健康风险外，基因编辑婴儿还可能引发商业不端行为并导致人类基因池的污染，对人类社会造成尚难预测的重要影响。笔者认为，要走出技术发展中的 “工具—目的悖论”，破解技术发展的 “不均衡性难题”，倡导负责任的研究、进行有效的技术规制、发展 “为了人的技术”，应当成为科技发展的终极目标。

3 负责任的研究与科技治理能力现代化

现代性下的远距离行为可能对遥远地域和子孙后代产生影响，这种影响比我们能够预想的远为深刻和激进,甚至超越了受到时空限制的人类的伦理想象力。古典现代性的伦理学框架并没有包括远距离行为目标和结果，亟待重构。在重构过程中， “责任”成为新兴技术伦理中的核心概念。责任并非来自他者需要，而是来自内在道德推动力对道德本身的关注，责任具有非互惠性。在宏观上实现作为伦理学崇高目标的正义，需要在微观上承担起对他者的责任。伦理学需要回应风险及不确定性挑战， “责任”作为核心原则要求我们从 “与他者共在”转向 “为他者而在”，要求我们回到道德原初场景去构建道德空间。

在传统社会中，对公民的要求是 “做一个好公民”，尽自己的本分，遵守与其在社会中的位置相应的约定俗成的规则。在技术社会中，对公民的要求是 “做一个负责任的公民”，个人不仅要追求自己的利益，也要承认和考虑他人的利益，技术伦理首先是一个责任伦理，伦理学正在发生转向，即从 “角色伦理学”到 “力量伦理学”、从 “当代伦理学”到 “未来伦理学”、从 “地域伦理”到 “全球伦理”、从 “近距离伦理学”到 “远距离伦理学”。我们需要把 “用来考虑的时间”从 “用来生产的时间”中分离出来，从 “创造财富”转向 “不去毁灭”，负责任的研究与设计应当成为新兴技术发展的核心准则。

目前新兴技术发展的社会环境存在不确定性和复杂性，而不确定性语境导致未来社会构想的复杂性和不确定性。应当充分认识技术生产、扩散和使用的社会环境的复杂性和多元性,认真对待不同国家和地区社会发展阶段的差异性,对各国国情给以充分考虑和尊重；同时应当加强新兴技术的全球治理，促进多元主体之间的对话与协商。新技术革命浪潮正在重构人类生活，人类对于新技术革命的到来应当欢迎而非拒斥，人类对自动化技术、基因编辑技术、人工智能技术的生产、扩散和采用的可能带来的新的社会变化和挑战要有充分准备。在新兴科技不断引发各种社会危机的当代语境下，认识新兴科技风险的特征，反思当前新兴科技风险治理模式所面临的问题，以及研究更为合理的新兴科技风险治理模式，这对于引导新兴科技走向 “与人善”的发展之路具有非常重要的意义。

(本文为国家社科基金 “后经验转向时代的技术伦理规约机制及模式研究”、北京社科基金 “风险治理中专家信任构建路径及机制研究”的阶段性成果)

基于大数据的算法杀熟现象的政策应对措施

李侠 上海交通大学科学史与科学文化研究院 教授

随着近几年大数据的兴起，数据挖掘技术得到迅猛发展，其潜在商业前景不可限量。时至今日，我们尚无法准确研判大数据革命对于人类的存在状态到底会造成什么样的深远影响，但至少在其早期应用中已显露出一些令人担忧的征兆，整个社会已经开始逐渐感受到大数据对国家安全与个人生活的侵入以及权利的丧失。为了便于讨论，我们对最近涌现出来的基于大数据的算法杀熟现象做些简单分析，期望通过生活中的一个常见视角，探讨在新技术面前人类的处境以及可能的解决措施。

“杀熟”是一种隐喻说法，所谓的熟无非是对人和物的信息了解比较多而已，坊间所谓的杀熟是指对特定消费个体采取的不同价格而已。在小数据时代，这种杀熟现象规模较小、危害较轻，无法挑战市场的自由竞争原则；而在大数据时代，数据的采集、加工、挖掘、分析与共享越发成熟与普遍，对消费者的熟悉程度与小数据时代不可同日而语，导致市场竞争可以被垄断完全替代，通过所谓的动态定价，可以最大限度上实现最大范围的歧视性定价，杀熟不再被看作是不道德现象，反而成为商家算法技术先进的代名词和暗中炫耀的资本。超级平台与应用程序软件通过移动设备对消费者产生的数据进行实时跟踪、捕获、整理与挖掘，然后基于利润最大化的算法实现价格歧视，这就是杀熟现象的本质所在。

在大数据时代，数据就是具有生产性的重要资源。这里存在一个困境：个人的数据信息是分散的，其孤立存在的价值并不大，但是一旦众多个体的数据被平台或商家收集起来，形成一定的规模，那么它的价值就会迅速变大。在数据挖掘中，消费者个体将是最大输家。那么这个社会中是谁在收集这些数据并以此获得收益呢？在利益分布的链条上，大体来看，包括三个层级的机构：个体、商家 (应用程序的使用者与提供者)与超级平台。商家与平台利用收集来的海量个人信息，通过特定目的的算法整理出个体的偏好与特定信息，并对消费者群体实行精准分类，然后商家与平台充分利用这些信息，实现动态定价与定向广告投放，只有消费者成为数据海洋中的受害者。数据的产出者在数据的交易中并没有分享到相应的收益，反而成为众多数据收集者任意收割的韭菜，这才是人们关注个人数据与信息安全的初始缘由。

更深层的危害在于通过数据挖掘，任何个体都是透明的 (笔者是坚定的计算主义者，认为人的性格、情绪、情感与习惯等都是可以计算的，当下只是计算工具不完备而已)，在此基础上个体的隐私根本无法保障，整个社会有效运行赖以维系的公平原则将受到根本性的颠覆。在个体与商家/超级平台之间力量对比如此悬殊的情况下，如何通过政策来约束商家与超级平台对于消费者权利的剥夺呢？由于利益的分配链条是连续的，不存在利益的空白之处，那么约束机制也不应该留有缺口。基于分布式道德原理，我们提出针对不同主体行为规范的分段式政策约束机制。所谓的分布式道德，按照英国哲学家卢恰诺·弗洛里迪 (Luciano Floridi)的说法：它们是构成多能动者系统的各个能动者间互动的结果，这些能动者是人类成员、人工能动者或者混合型能动者，而且这些结果在其他情况下是道德上中性的，或者至少是道德上可忽略的。把卢恰诺的说法简化一下就是：在多个行动者系统中，每一个行动者都是负载道德的，而这些道德在被孤立的行动者那里也许是道德中性的，但是一旦形成社会联结，那么这些特殊道德之间就会出现冲突，为了维系社会的有序运行，行动者之间要在行为规范上形成有效衔接，否则社会就会出现失范现象。比如一个企业就其自身而言，追求利益最大化是符合道德规范的，但是，一旦企业与消费者之间产生实质性联系，单纯追求利润最大化的规范就要受到约束，否则就是违背社会正义与公平原则，此时企业与个体都要调整各自的认知范式，使彼此之间保持相互匹配，即可接受性。从这个意义上说，一个多能动者系统是存在分布式道德的，为了有助于分布式道德的建立，需要相应的政策安排来引导分布式道德的运行。由于道德形成的缓慢性，为了应对迅速增加的多元能动者，需要政府的有形之手加以干预，使之最大程度上避免由于规范的滞后所带来的社会震荡，这就是政策设定对于道德约束机制产生干预作用的原理。在此需要指明的是，我们认为对于能动者的行为而言：法律底线最低，道德底线次之，政策底线最高。这种安排符合取乎其上得乎其中的常识。

通过政策干预道德形成与运行是否有必要呢？只要了解基于大数据的算法对于个体与市场有多大影响就不难明白政策干预的必要性。对于个体而言，个人数据被市场上的众多能动者广泛收集与挖掘，个体的偏好、隐私以及消费者剩余都将失去，这对于个体而言是权力与自由的丧失，其后果除了消费环节的杀熟现象之外，更严重一点的事例，比如购买保险，当保险公司了解你的基因信息，并通过对个体数据的精准分析可以对个体的保费实行差别定价，由此一来，保险公司将变成一本万利的行业，而对于个体而言将失去对于未来不确定性的防范。对于市场而言，掌握大数据的大公司之间可以较为轻易地形成合谋，从而形成垄断市场并赚取超额利润，这就把基于竞争的市场经济摧毁了，所有具有竞争意识的初创公司都将被大公司扼杀在初始阶段。就如同阿里尔所言：超级平台牢牢把控着独立应用程序的流量入口，独立应用程序必须按照超级平台的指示与规划小心行事，否则是很难存活的。那么谁有能力制约与监督这些超级平台的垄断行为呢？显然只有政府有能力也有责任去规范其行为，遗憾的是我们现有的政策工具箱对于超级平台与商家的算法监管存在巨大的空白，甚至都没有相应的政策工具。这就导致数据泛滥，算法竞赛横行，消费者就是商家与平台的待宰羔羊，毫无还手之力，只要看看百度公司近些年的表现就不难理解这些现象。在全球化背景下，这种态势愈演愈烈，正如卢恰诺·弗洛里迪所言：在一个去当地化的环境中，社会摩擦是不可避免的，因为没有什么资源可以用来缓解或消除能动者的决策与行动所带来的震荡。

当超级平台与商家对于个体/消费者的个人数据收集、俘获与提取能力与水平越来越强大的时候，伴随着机器学习技术的深入发展，算法会得到不断的试错过程，具备自我学习能力的算法在持续的演化竞争过程中会实现自身的质变，这种变化呈现两种表现形式：在显性层面上进化的算法促进平台与商家的利润最大化；在隐性层面算法逐渐具备自我意识而又不为人所知，这才是未来最让人担忧的事情。虽然就目前而言，算法与机器学习技术尚处于起步阶段，还显得有些笨拙，但是没有人会准确预见到其何时会出现突破性的质变？那种认为危机尚远的乐观主义是不负责任的，就如同没有人会意识到互联网在短短几十年的发展给世界带来的变化一样，考虑到技术具有自主性这样一种普遍趋势，未雨绸缪还是应该的。就如同基因编辑技术看起来离改造生命还很遥远，但是不觉间经基因编辑技术处理过的孩子已经出生。我们这个时代所遇到的大数据、人工智能、机器学习、云计算等技术带给人类的风险是不同于以往技术带来的全新风险。通常技术风险根据危害程度和发生概率可以分为四种，一是低可能性、低灾难性；二是高可能性、低灾难性；三是低可能性、高灾难性；四是高可能性、高灾难性。本文所论述的基于大数据的算法杀熟现象属于典型的高可能性、低灾难性风险，而且这种风险已经变为现实。更为可怕的是那种低可能性、高灾难性的风险，如当人工智能出现自我意识时引发的风险就属于此类。由于这些知识都是前沿性知识，普通民众难以了解，更谈不上有效防范。按照美国科技政策专家希拉·贾萨诺夫的观点：风险集聚的地方通常也是知识资源较弱的地方，从而无法获得关于物理、生物和社会情况基准的可信数据。那么针对这些基于新技术而来的风险应该如何通过政策工具来约束呢？

基于市场的多元能动者的动机与偏好的差异，规约其行为的政策工具也千差万别。从分布式角度来看，哪些政策工具与机构可以约束不同能动者的行为呢？对于消费者而言，当他遭遇到价格歧视时只能依据 《消费者权益保护法》寻求消费者协会的帮助，这种帮助举证烦琐、耗时漫长，在个人与商家力量对比严重不对称时，在实践中作用甚微；对于商家而言，对其行为负有监管职能的机构有工商管理、质量监管等部门，而这些机构几乎没有能力了解算法造成的价格歧视与人群分类现象，反竞争法在实践中几乎处于失灵状态；对于超级平台而言，抛开工商、质量监管部门外，工信部是其行业规范的重要监管者，但就目前状态而言，管理部门行动的滞后性，导致对于新兴业态都处于监管空白状态。换言之，当下对于新技术的监管有实际效用的政策工具寥寥无几，政策工具箱处于极度匮乏状态。针对实体市场设立的反垄断法早已无力监管处于虚拟市场的线上交易。从伦理角度来说，算法并非价值中立，这就意味着算法对于大数据的处理是蕴含巨大伦理风险的。一旦伦理约束失灵，整个行业就会出现道德滑坡现象。那么如何用好大数据资源就是当下非常紧迫的治理任务，已有学者建议对大数据进行全国性立法。客观地说，这种建议的初衷是好的，防止产业发展步入歧途，问题是法律的范畴是极其狭窄的，就如同道德与法律对行为约束产生的差异，道德的底线高于法律底线，即一些行为不道德但不违法，一旦用法律去约束日常生活，可以想见这种社会秩序是极度糟糕的。同理，仅仅基于法律底线，大数据产业会出现野蛮生长，只要不违法即可。从这个意义上说，既要保护大数据产业的发展，又不让其走入歧途，可以先通过政策工具 (基于大数据伦理设定)划定行业的行为边界，在此基础上对超边界的行为进行道德与法律惩戒，否则的话，在政策边界与法律边界之间就会出现监管与约束的真空地带，造成社会整体的行为失范现象。因此，完善与充实大数据的政策工具箱是规范与有序发展该行业的当务之急。当下，管理部门对于大数据的国家安全层面已经给予足够重视，短板是对于个人数据 (隐私保护)的关注仍然停留在纸面上，并没有太多具有可操作性的政策措施。如果仅有国家数据的安全，而无个人数据的保护，这种局面会阻碍社会的进步。总而言之，从政策引导、道德规训到立法规范，是一个逐渐完善、相互支撑的规制过程，目前已经到了政策引导与道德规训相结合的阶段，在此基础上大数据的立法才是可行的。

(本研究得到国家社科基金重大项目 “大数据环境下信息价值开发的伦理约束机制研究”的资助，课题编号：17ZDA023)

基因编辑技术伦理亟待从共识走向共律

潘建红 北京科技大学马克思主义学院 教授

1 基因编辑技术的伦理反思

面对基因编辑技术引发的伦理热议，需要进行深刻反思。实际上，直接进行人胚胎改造并试图产生婴儿的任何尝试都存在着很大的伦理风险。

首先，技术产生相应的伦理问题，具有一定的必然性。从技术与伦理的关系来看，基因编辑技术拓展了新的领域与空间，而相对稳定的伦理还没有触及这些领域与空间的时候，就会导致技术与伦理之间的巨大鸿沟，引发严重的社会伦理问题。其次，高科技伦理是必须面对的问题。从科技本身的发展来看，技术进步既具有人为的且又外在于人的驱动力。虽然对于某项具体的科学试验可以通过禁令来禁止，但是，伦理问题却不能因此而得到有效解决，而且伦理问题也是必须面对的问题。再次，我国科技伦理的规范不能满足科技发展的形势。西方科技在发展的过程中提出了许多伦理规范，而对于中国来讲，近代科技发展不足，应对科技伦理的经验先天缺少，而中国传统文化中实用主义倾向非常明显。今天，科技领域功利化的评价模式更加大了这种实用主义的倾向，人们更多关注科技产生的实际效用，过多重视科技带来的收益，不重视科技伦理问题，相应的科技伦理规范严重缺失。由于伦理规范的不足，不能满足高速发展的科技要求。最后，从现实来看，技术伦理问题会层出不穷。技术的运用带来的收益会给科技工作者带来很大的诱惑，加之技术的社会需求非常大，在这种动力的作用下，研究人员可能会铤而走险进行违背伦理道德的技术活动，而由于法律和规范等监管存在着很大问题，这也会导致严重的科技伦理问题，而且这些问题会随着技术的发展层出不穷。为此，应充分认识基因编辑技术的伦理风险，注重科研人员的职业操守与社会责任，为基因编辑技术研究划定明确的伦理与法律规范的边界，在此基础上，制定严格的监管体系，保证利用基因编辑技术能可控地进行。

2 基因编辑技术的伦理边界应成为共识

一直以来，由于技术的有限性，人类对自己的生命没有自主权。随着基因编辑技术的迅猛发展，人类可以通过一定的技术手段自己加工自己。正如海德格尔所预言， “人们终有一天将建造用于人力资源的人工繁殖的工厂”。然而，基因编辑技术一旦突破了治疗的边界， “定制婴儿”必将成为一种普遍现象。为此，需要把握基因技术发展的限度与边界，使得基因编辑技术处于伦理的规训下，以此为开展技术创新提供根本的遵循，这应该成为一种共识。

从国内来看，政府部门颁布了一系列的规则与制度： 《人类辅助生殖技术和人类精子库伦理原则》 (2003)、 《人胚胎干细胞研究伦理指导原则》 (2003)、 《干细胞临床研究管理办法 (试行)》 (2005)、 《涉及人的生物医学研究伦理审查办法》 (2016)、 《生物技术研究开发安全管理办法》 (2017)等，这些制度为基因编辑技术等的应用明确了基本准则。从国际来看，国际干细胞研究学会公布的干细胞研究与转化应用指南，提出涉及人类胚胎的研究要接受专业的监管。纳菲尔德生物伦理学协会认为，应建立临床安全标准。还有很多国家在生物医学研究方面都制定了严格的规则与制度，规范生物医学的研究。

国内外的相关制度都规定，基因编辑技术不能扩展到生殖领域的临床应用，强调要遵循基因编辑技术的伦理道德规范，维护人类生命的基本尊严与人的基本安全，这是基因编辑技术研究的边界。因为基因编辑技术本身的风险具有整体性、难预知性等特点，今天的基因编辑技术还远远不能安全地用于胚胎编辑。维护基因编辑技术的伦理底线实际上是要遵守的最基本规范，从一定意义看，这具有绝对性的特点，适应人性的伦理应符合社会的基本伦理规范与原则，即要以不损伤人作为伦理底线与前提，还要遵循公正、平等及保密等原则，在这个基础上，科技发展才能实现造福于人的目的。当然，不同国家社会生产关系的变化，特别是经济关系的变化，其 “底线”是不一样的，并随着时代与历史的发展不断提升或者降低。在科技的发展中，一定的伦理总对科学技术起到选择、评价与推动的作用，以此来判断、评价科技发展的合理性与最基本的要求。

3 基因编辑技术伦理走向共律的思考

基因编辑技术的发展使生命科学技术的发展到了一个新的拐点，科学伦理亟待从共识走向共律，让规则发挥强有力的约束作用，保证基因编辑技术能在安全、可靠、可控的范围内进行运用。

成立各层级的科技伦理委员会。应成立全国到地方的科技伦理委员会，汇集各方面专家和学者的个体智慧，并转化为集体的智慧，制定与研究可操作的技术规范与伦理指南。科技伦理委员会要对机构或单位的伦理审查委员会进行多方面的指导，科技伦理委员会在开展工作中要保证其相对的独立性，要有相对独立的组成与明确的工作规范，在履职中要保持公正与公平。政府也要加强对科技伦理委员会的指导与监管，根据一定的考核指标，加大考核的力度，使科技伦理委员会能高效运转。

建立严格的伦理审查机制。要做到将伦理审查作为法定的任务进行落实。政府要强化临床应用的准入和审批的权限，相关科研与医疗单位应设立专门的伦理审查与研究机构，对技术研发活动的全过程与全方位的审查，对其伦理准入与伦理的合理性把关。通过制定严格的标准，保证涉及人体的科学研究能在符合一定规则的情况下顺利进行。特别要加大对企业的技术行为进行高效的伦理审查，建立符合企业特点的伦理审查的指标体系，不断提高伦理审查工作的质量和效率。在工作中，还要注意进行伦理批准后的跟踪审查，将准入审查与过程审查结合，注重形成性的评价审查。

加强法律规制。西方国家十分强调法律法规在科技伦理建设方面的重要作用，如 《纽伦堡法典》提出了人体实验的基本原则。面对基因编辑技术的发展，制定相应的法律规范，严格设定适用的范围。在现阶段，应禁止基因编辑技术的临床试验研究，如果违背基本原则，要通过法律进行处罚。通过加强高科技领域的立法，把伦理准则予以明确与固化，并通过将伦理准则上升为法律层面，形成高压态势，以法律来规制违法行为，能有效避免出现违背伦理行为的事件的产生。

强化制度约束。制度供给不足是制度滞后的重要原因，为此，要注重制度的供给，理顺技术系统内各种制度关系，使之能相洽。政府主管部门和科学共同体共同拟定制度，明确基因编辑技术适用范围和对象，并设定严格的研究边界。只有让科研人员在科研活动中有明确的约束，才能真正鼓励科学家在相关领域的创新，规避伦理风险。具体的技术管理活动既要促进技术的发展，也注重技术的制度监控，在技术创新中注意对技术发展的制度约束。政府、科技工作者、社会公众之间要通过一定的协商机制，并以制度的形式加以固化，形成良性互动，如丹麦的共识会议在这方面就是一个成功范例。此外，还要建立对技术伦理听证制度。

注重行业与科学共同体的自律。要在合法合规的伦理原则下开展生物医学的临床探索，行业或科学共同体要形成共同的规范，并把这种规范作为共同遵守的准则，自觉地按照一定的制度准则与伦理规范开展临床研究。特别是要做到不得擅自开展人类胚胎基因编辑的研究，在研究中要遵循划定的规则制度与法律的红线。

当代新兴人类增强技术的伦理风险及其治理

易显飞 长沙理工大学科技与社会发展研究所所长、教授

随着纳米科学与技术—生物技术与生物医学 (包括基因工程)—信息技术—认知科学 (包括认知神经科学)的协同组合形成的 “NBIC 汇聚技术”时代的到来，人类增强自身的能力得到根本性提升，出现了与之前完全不同的新兴 “人类增强技术” (Human Enhancement Technology，HET)。塔玛拉·加西亚 (Tamara Garcia) 与罗纳德·桑德勒 (Ronald Sandler) (2008)把这类技术界定为 “提高或增强人类的认知、生理、心理等的能力，或让人类获取超出基本能力之外的特殊能力的技术。”一般认为，新兴HET主要包括 “物理增强技术” (Physical Enhancement Technology，PET)、 “认知增强技术” (Cognitive Enhancement Technology，CET)、 “道德增强技术” (Moral Enhancement Technology，MET)与 “情感增强技术” (Emotional Enhancement Technology，EET)等，其中后三类更受到学界的关注。从技术 “嵌入”人类的方式来看，可以将当代新兴人类增强技术分为医药技术型、基因工程型、纳米技术型、信息技术型、植入技术型、复合控制型等类型。这些技术类型随着NBIC会聚技术的进一步发展，出现了技术 “升级”和 “反转”的趋势，使人类社会进入一个 “后技术时代”。可以说，新兴 “人类增强技术”及其运用在不断地建构 “新”的人类，人类本身已经进入 “深度科技化”状态，增强技术成为人类在世的重要存在方式，却也带来了前所未有的伦理风险。简要归纳起来，有以下几个方面：

一是人的自主性问题。当代新兴人类增强技术对人自身原有的价值和意义构成了直接威胁。不仅仅人的自然属性如身高、长相、智商等随着增强技术的发展而增强，而且人的社会属性如道德、情感、认知等也随着增强技术的发展而改变。以新兴情感增强技术为例，它不仅改变了人的性情，甚至可以随意造就只具有某种情绪或情感的人，这实际上对人的理性和自主是一种人为破坏或贬损。特别是基因编辑层面的情感增强干预，破坏了后代的自主选择权，缩小了第二代生命的选择空间，对后代进行了强制性干预，形成了某种新的代际不公。

二是技术的安全性问题。当代新兴人类增强技术对 “人”的全面 “入侵”与 “改变”，也引发了对此类技术的安全性问题的担忧。如莫达非尼与安非他明等药物增强制品，虽然可改善人的注意力与记忆力，属于常见的认知增强，但后续研究却显示，此类认知增强药物却有可能让被增强者产生 “成瘾”的风险。再如，经颅磁刺激 (TMS)技术，它可快速增强人的认知能力，但研究发现被增强者一旦使用该技术后，更容易癫痫发作。更可怕的是，TMS 对大脑神经的刺激，极有可能对认知之外的如情绪情感等非认知能力带来不可预测的损伤，出现难以预料的人体安全问题。再比如基因增强技术通过对基因进行干预提高被增强者的身体、认知或道德等方面的能力，技术是否有安全风险，应该是研发人员首要考虑的问题。从长远看，虽然实现了被增强者某方面的高能力的追求，但被增强者的基因越来越趋向单一，面对多样性风险的应对能力会越来越弱，从而与增强目标背道而驰。

三是 “增强技术依赖”导致的认知能力退化问题。现代科技带给人类越来越多的便利，这种便利性逐渐增大，已经逐渐成为一把双刃剑，那就是人类已经走向对科技的深度依赖，而这种深度依赖实际上是人的各方面的另外一种形式的退化。例如，信息技术作为一种认知增强技术，已经从外置辅助性技术转变为内部嵌入式技术，它使人的认识不再是 “容身”的，而形成了 “人机结合”的认知新模式。在这种模式下，信息的获取、加工、处理、存储、传播等操作变得更高效、更准确。这样一来，人的思维由 “以大脑处理为中心”逐渐向 “以计算机处理为中心”转移，而这个过程却也是人的感受力 (获取信息)、注意力 (选择信息)、理解力 (表达信息)、记忆力 (存储信息)等能力逐步退化的过程。也就是说，认知增强技术让人产生了依赖症，虽然可能释放了人脑超负荷工作的压力，却极有可能会降低人的潜能，消解人自身具有的无限潜能，甚至改变人类智力进化的趋势。

四是人的情绪情感与人格的 “同一性”问题。情感增强类的医药技术强化了情感的客观性，将情感当成了一种可以 “维修的物品”，而不是人类的特殊意识，这样就将人的情感进行了过于机械化的处理，属于 “制造”出来的情感。在这个意义上，增强技术对于情感的影响使技术的使用者无法以自身真实的情感面对现实世界，失去了真实自我的表达，人格同一性随之受到严重威胁。除了人的先天特质与现实生活经历结合产生的 “经验”之外，同一性更是一个人对于这些经验的记忆 “重构”。然而增强技术所赋予人的强大记忆认知，也极有可能使技术使用者对于以前经历的痛苦回忆无法淡忘，从而使其活在无法逃脱的痛苦甚至恐惧之中，产生不符合自身需要的情感折磨，且使用者同时受到了同一性丧失的威胁。对于大部分人而言，在选择情感增强时，肯定是倾向于选择正面积极的情感。一旦在基因增强层面使用，随着遗传过程而传递且扩散，那么，原本 “喜怒哀乐”的复杂情绪世界将演变成情感单一的 “极乐世界”，出现了人类情感整体上的过度同质化。

五是 “道德增强难题”。 “道德增强”也被称为 “非传统道德增强”，是指道德增强技术调节人的道德情感，增强其行为动机和道德品质，从而提高道德行为水平。科研人员发现，血清素 (Serotonin)可以有效降低犯罪者的性暴力冲动，这样，性暴力事件则侧面得以降低。这种通过医疗药物的注入，使得那些具有犯罪倾向或不道德行为者变得更有道德的一系列活动，被称为 “道德增强”，其目的就是在于对那些不道德行为者进行 “道德修正”。道格拉斯指出，生物医学在人的道德方面的应用，是一种道德上的提升——这种增强可以使增强的人比以前有更好的动机。但是，看上去如此美好的 “道德增强”，却引发了系列伦理难题。例如，道德增强无法体现出对道德个体自我认同的尊重，如果道德增强是为了使不道德者在道德上变得 “更好”，那么在不明确什么是 “更好”的情况下道德增强的实施则过于强调道德的客观性而否定了道德的主观性。再如，道德增强技术可能并不能带来真正的道德进步。通过技术干预而不是理性思考和自身情感的历程实现的所谓道德，无法实现真正意义上的道德进步。又如，道德增强可能会威胁个体的自由，造成道德上的强迫与垄断。比如能不能对被认定为道德败坏的人实行普遍性的强制性增强？这种强制性增强会不会干扰人的自由？会不会减少人的道德选择空间？对于未增强者而言，是否增加了他们的压力，产生了新的不公平？

吉登斯指出， “技术进步表现为积极力量，但它并不总是如此。科学技术的发展和风险问题紧密相关。”可以说，当代新兴人类增强技术在给我们带来诸多积极价值的同时，也产生了诸多伦理风险，且其风险具有跨越时空性、不可预测性、高度隐蔽性、复杂关联性、极端危害性等错综复杂的特征。高新技术本身具有的内在不确定性、技术创新主体的 “负责任创新”意识不强、技术使用主体的审慎程度不够、增强技术发展的社会引导不力、技术监督监管不到位等，都有可能是形成其伦理风险的因素。

对于当代新兴人类增强技术的态度，大体上可以分为 “增强派”与 “反增强派”。前者对增强技术持乐观主义态度，认为可以作为一种必要的手段来解决人自身各方面的局限性；后者重视增强技术引发伦理的负面后果的评估，对增强技术产生 “技术恐惧”。我们应针对其所导致的伦理风险进行积极反思，寻求治理之策。首先，应加强增强技术研发主体的 “负责任创新”意识的培养。在新兴技术不确定性状态下，特别是对于增强技术，如何实现负责任创新，是要解决的首要问题。增强技术研发主体应本着对人类主体负责任的态度进行技术研发，应具备对增强技术伦理风险进行一定预期的能力。其次，制定切实可行的伦理规范，从社会控制层面展开伦理评估，对于不同类型的增强技术，应进行 “差异性发展”。其实，对于增强技术，采取 “无限制发展”与 “完全禁止发展”的态度都是不可取的，而是要采取 “差别对待”的原则。对于完全 “背离”人的增强技术必须禁止研发；对于 “双刃剑”特质明显的增强技术必须加强伦理评估、进行技术 “分级”并限制研发；对于经评估后完全有利于人类的增强技术则应允许进行自由研发。再次，提升公众对新兴人类增强技术伦理风险的认知力。无论是增强技术伦理风险本身的特殊属性，还是公众认知规律深层次的社会文化因素，均需培养公众对增强技术的正确认知。媒体中传播与宣传在其中扮演着非常重要的角色，媒体等舆论方应通过对增强技术的全方位多维度宣传，进而引导公众对其形成多样性价值评判，进而引导人们对于增强技术采取多样性选择。最后，应该创新政府风险治理模式。政府是现代技术风险治理主体的核心，其影响力与强制力在技术风险治理中的作用无可替代。目前，欧美各国纷纷将基于会聚技术的人类增强技术发展放在国家层面上进行战略规划。我们应通过增强政府科技管理部门管理技术伦理风险的能力，完善增强技术发展的 “伦理风险—收益”模式，保证增强技术发展的伦理风险最小化。就目前增强技术发展的管理现状，除了刚性立法，重点规范增强技术研发及其产业的全链条安全监管机制、检测机制、惩戒机制和风险赔偿机制。总之，与传统增强技术完全不同的包括认知增强、道德增强、情感增强、身体增强等在内的新兴 “人类增强技术”，使人类增强自身的能力得到根本性提升。但鉴于其现存或潜在的各种伦理风险，我们应以一定的伦理标准作为参考系，合理引导人类增强技术朝着 “合目的性”与 “合规律性”统一的方向发展，真正造福人类。

(本文系笔者主持的国家社科基金项目:当代新兴增强技术前沿与人类深度科技化问题的哲学研究阶段性成果之一，课题编号:18BZX042)。

人类基因增强技术的政策规制

张君 北京理工大学人文与社会科学学院副教授

人类基因层面的编辑修饰，是一种伦理和价值敏感型的科技。特别是这种遗传学操作，可能越过治疗或预防疾病的界线，趋向于加强或放大正常人类特征和能力。这将引发关于用途、安全及功效等方面的巨大争议，从而对既有科技和公共政策规制能力提出挑战。再加上与生物技术相关的创新需求和产业竞争，人类基因增强技术的政策规制，将面临一个广泛而复杂的伦理、社会和法律情境。尝试在利益相关者语境下寻找规制政策的均衡点，有助于落实伦理、社会或创新方面的诉求，也有助于我们对于生物技术的理解。

20世纪中期以来生物技术的飞速发展，已经使得人类基因增强发展成为一个政策议题。基因水平的遗传干预，一直引发跨越治疗迈向增强的广泛争议。从重组DNA到干细胞基因治疗，以及基因编辑，运用遗传学技术修改基因物质，来改变有机体的特征，为治疗和预防疾病提供了福音。但是如果这些技术再往前走一步，不是修复缺陷基因，而是修饰正常基因，比如通过编辑生殖细胞和胚胎中的DNA来改变或提高外貌、体力或脑力，并且将这种提高优势代际传递下去，那么这种遗传干预将极富争议。来自伦理上的主要争议包括，基因增强是对自主性、尊严、真实性等基本价值原则的侵犯还是发扬。例如有人认为增强侵犯了当代和后代的自主性，将引发被迫竞争。而支持增强的观点认为 “我的基因我做主”，人们有权利自由选择扩展性征的方式，这恰恰弘扬了自主性。来自社会的议题主要是增强的安全、有效、公平和受控。例如种系基因编辑技术用于增强，因为缺少短期和长期的安全性评估，可能存在脱靶等不确定性和风险，将会给个人或社会带来可能的危害或不利。然而，也有人认为安全性可以随着技术进步而提高。增强引发的法律关注主要是隐私权和知情权，比如遗传信息的隐私权，增强技术运用的知情同意等。对于技术的争议自然会引发审视的要求，传统上技术治理的依据主要来自上述观点和立场，特别是对于行动者的制约。例如对于重组DNA技术出台的监管政策，主要是基于社会伦理价值分析和风险收益前景预判。规制机制几乎涵盖了从个体科学家守则到专业学会指导，从委员会方案到政策法规的整个规制谱系。

然而近年来，诸如CRISPR/Cas-9等新奇基因编辑技术的发展，似乎超越了20世纪DNA重组技术时代以来的规制框架。当人们还在基于伦理和风险收益的框架来讨论基因增强的监管时，当代生物技术的创新和商业环境已经发生了重大变化，过去十年来的发展迹象表明，人类基因增强领域可能会迎来一个技术创新的远大前景。第一，生物医药科技的快速发展，生物医疗保健产业的突飞猛进，为未来基因增强技术的发展提供了广阔空间。例如就目前有潜在增强应用可能的CRISPR基因编辑技术而言，有关出版物、专利和资助日益快速增长。在专利上，像包括华人科学家张峰在内的几位CRISPR技术早期研发者，都成立了研发公司，并尝试将研究扩展到临床。国家层面的资助也有很多，例如2016年美国和英国都有批准CRISPR修改人体细胞或早期胚胎的研究，2015年中国科学家黄军就也运用CRISPR修改人类植入前胚胎基因。可以预见，全球生物医药科技和产业的竞争态势，将促进基因技术的迅猛发展。第二，基因工程技术更易于扩散和传播。很多基因编辑技术易于获得、便于操作、成本低廉并且精度更高，加上便捷的互联网和物联网，助长了技术扩散，但不利于技术监管，甚至会出现 “自己动手增强” (EIY，Enhance-It-Yourself)的操作。例如2018年中国科学家贺建奎进行的基因编辑婴儿，已有信息显示这项操作并没有得到其所在大学医学伦理委员会的批准。第三，新兴传媒的宣传推广。很多网络媒体和商业广告，都过分注重增强潜力的有益一面，忽略增强可能带来的严肃伦理社会问题。特别是商业广告，往往注重承诺满足公众意愿的技术产品，甚至用非遗传增强如整形、除皱、植发、激素或 “伟哥”等带来的生活质量提高的乐观想象，来描绘基因增强的 “美丽新世界”。第四，技术修复或升级的文化氛围。赞同和支持基因增强的观点认为，使用技术来提高自身是人类的天赋能力和演化方向，基因增强和人工智能、人体芯片、整形手术等技术一样，都为人类迈向后人类或超人类带来了希望，甚至可将人类提升为更高级的创新物种。不难看出，从技术到市场，从需求到文化，这些都为基因增强技术提供了创新的动力和条件。

目前以基因编辑为代表的人类增强技术进入公共议程，将面临一个复杂而紧迫的决策情境。一方面，治疗和增强之间界线的模糊性问题仍然存在，各种增强技术的独特性、功效和安全监测的长期性，都意味着技术评估和公共决策是审慎而缓慢的；另一方面，科学探索和医药产业发展，加快了技术研发和创新扩散速度，可能产生无法预测的社会后果。鉴于人们对于新技术用于增强的顾虑，无论是科学共同体或企业，还是政府部门或公众，放任不管和袖手旁观并不是一种负责任的态度。但是全面停止或禁止新奇技术，又是不现实的。 “一禁了之”的措施不但可能招致政策涉入阻碍产业创新的嫌疑，也许还会造成不受监管的黑市流通和地下试验局面。因此，当前人类基因增强技术的规制取向，应该朝向一种消除决策复杂性、寻求监管透明度的动态治理选择。这意味着未来的政策涉入，需要以增强技术发展为依据，建立一个包括技术应用对象在内的规制共同体，并且要考虑到广泛应用后的聚集效应。

第一，加强生命科学和医学研究，保证政策规制的针对性和有效性。当前，关于人类基因增强技术的伦理和风险争议，很多都源于缺乏充分的科学事实，这也影响到像强制、监管、劝阻等规制类型的选择。从当前政策应对来说，需要收集更多临床试验安全性和功效性的科学证据，开展健康调查来监视使用基因增强技术的不良反应。例如，虽然现有基因编辑技术，还无法对像外貌、体力或智力这样的多基因性状进行操作，但是也有动物研究显示，通过剪接与脂肪或肌肉生长相关的基因，影响动物抗病毒能力或肌肉质量。这些研究的初衷是预防或治疗疾病，但现实中治疗和增强的界线十分模糊。 这也是很多人担心的基因编辑技术可能会产生 “滑坡效应”，迈向优生学设计或增强。来自纳米和生物技术的治理实践显示，分类评估是一种可行方法。例如对于体细胞和生殖细胞基因编辑的区分评价，或者是对于基因技术干预配子、胚胎、子宫胎儿或出生儿的阶段性评估和限制。在有关辅助生殖、器官移植、医药制品临床试验的伦理准则和法律规范基础上，可以尝试针对一些假定的基因增强技术，设定相应规制方案。此外，考虑到基因遗传，长期安全跟踪研究也是有必要的。

第二，建立涵盖私人研究和公共研究的监管机制，确保人类基因增强研究程序的规范性。从科技公共事务治理观念看，规制包括一系列从私人个体到公共部门的监督管理措施。特别是在生命科学研究领域，这不仅包括具有法律约束力的条文规定，还包括诸如个人从业指南、专业协会指南、委员会决议、组织宣言等软性法律或捆绑性法律文本。政策选择的多样性，主要是因为基因增强难以达成共识，相应的规制选项要从个人到公众全覆盖分布：科学家自我规制、专业协会指导、专门委员会指导、政府部门指导方针、政府部门监管、立法法规。

实际上无论是强制性还是自主性规制，都无法避免个人使用中的过度或越界。因此也有很多人建议设立沿着技术使用坐标轴的监管路线。例如，在规制框架中加强授权或许可的作用，包括利用基因增强技术的发明和专利体系来，来保证伦理道德和公共利益的诉求。

第三，建立各方广泛参与的治理共同体，除了政府、企业和专家之外，还应该吸引更多的公众，积极参与有关基因增强技术伦理、法律和社会影响的讨论，这将大大提高未来规制政策的预见性和适当性。关于基因增强的用途、功效、伦理和风险等方面的广泛分歧，使得政策议题必须由各利益相关者共同讨论推进，其中不能忽视的是作为技术应用对象的公众的参与。早在2002年，美国总统生命伦理学委员会就提出建立公开的评价机制，产业界和公众联手合作，寻求对超越治疗的生物技术应用的监测和管理途径。2009年欧洲议会 《人类增强研究》报告也指出要 “配备和鼓励有关人类增强主题的社会交流对话”，促进更广泛的公众参与。2017年基因编辑国际峰会报告中建议，公众应该参与到监管或决策的全部进程中，其中公众参与程序，应该排在人类种系基因编辑跨过治疗和预防的临床试验之前。

在生物医药科技创新和产业发展的背景下，对于基因增强技术政策规制上的探索，可以使得相关的伦理、社会或法律方面的考虑和影响，能够合法地具有行动上的意义，同时规制实践也有助于我们对于生物技术的理解。