加强科技伦理治理

陈相利

厦门大学医学院生命伦理中心常务副主任、中国伦理学会科技伦理专业委员会常务理事马永慧

青年科技工作者、生物医学博士王萱

近日，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》（以下简称《意见》），意见中对“科技伦理原则”“健全科技伦理治理体制”“加强科技伦理制度保障”“强化科技伦理审查和监管”等方面给出了规范意见。

《意见》甫一出台，便引发科技界热烈讨论。此意见的出台会对科技创新带来怎样的影响？科技创新和传统伦理，这两者如何达到平衡？

对此，记者专访厦门大学医学院生命伦理中心常务副主任、中国伦理学会科技伦理专业委员会常务理事马永慧，以及青年科技工作者、生物医学博士王萱，就此次出台的意见和未来可能出现的状况趋势进行了解析。

科技创新遇到传统伦理如何达成平衡

体细胞克隆、基因编辑、人工智能、脑机接口、自动驾驶……当前世界正处于新一轮科技革命和产业变革中，不同领域和层面的技术创新与应用层出不穷，在释放技术红利的同时，也冲击着人类传统的伦理观念，催生新的科学伦理风险和科技治理层面的新挑战。

根据中国社科院组织的相关调查，在科技伦理领域最受关注的问题中，基因技术排在首位，机器人、人类增强、人工智能等分列其后。因与人类生命科学相接相关，基因技术一直备受关注。曾在社会上引起轩然大波的“基因编辑婴儿”事件更是将基因编辑的讨论推到一個争论高峰。

在该案件中，来自南方科技大学的贺建奎及其团队宣布，一对名为露露和娜娜的基因编辑婴儿在中国诞生。这也是世界首例免疫艾滋病的基因编辑婴儿。该事件一经公布，引起学界和社会广泛关注，特别引发了法律和伦理方面的争议。

“基因生殖技术为人类敞开了‘美丽新世界的大门，但其新的风险也将我们推入了一个取消控制、普遍存在不确定性和流动的不可预料的社会当中。”马永慧近日接受采访时表示，基因本身携带生物学信息，故对其的概念关乎人类自身的延续和未来。人们对贺建奎案的震惊，不仅因为他对于道德规范和法律制度的践踏，更出于利益驱动下部分人对该技术风险的无所顾忌。

马永慧认为，基因编辑婴儿事件涉及技术风险、社会风险和道德风险，三者是技术应用从外到内的递进关系。“脱靶效应，镶嵌现象，长期的未知，不可逆转，终身承担的不可预知的风险，以及基因组突变、患病敏感性提升等问题，目前尚无法解决。”马永慧说，“如果说技术性风险可以通过不断发展技术而降低，社会风险可以通过制度完善而消解，那么道德风险的消除必须依赖于对人性最深处伦理范畴调整的接纳。”

“一项技术的社会后果不能在技术生命的早期被预料到。然而，当不希望的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难。”这是1980年英国技术哲学家大卫·科林格里奇提出的观点，被称为科林格里奇困境。

当前，一些新型科技的风险性、不确定性以及发展后果无法提前预测，促使其社会控制面临“科林格里奇困境”。

科技伦理问题错综复杂，除了技术层面涉及的风险受益评估和受试者/患者安全问题，还涉及社会层面的公正问题。马永慧列举，比如异种移植的可及性，花费巨大，未来技术发展成熟，如何与当前的器官分配系统整合？如何保证公平公正的分配？此外，在道德层面，还涉及人的尊严、动物权利福利、宗教问题等。

从果上治理前移到从因上治理

从20世纪50年代起，国际上就开始广泛探讨现代科学技术及其应用的伦理问题。

此前，我国也在科技伦理问题上进行了系列探索。2019年7月，中央全面深化改革委员会第九次会议审议通过《国家科技伦理委员会组建方案》。2019年10月，党的十九届四中全会提出“健全科技伦理治理体制”。2020年10月，党的十九届五中全会提出“健全科技伦理体系”。

此次《关于加强科技伦理治理的意见》的发布，成为继国家科技伦理委员会组建之后，我国科技伦理治理的又一里程碑事件。《意见》明确，科技活动应遵循增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明的科技伦理原则。

《意见》指出高等学校、科研机构、医疗卫生机构、企业等单位要履行科技伦理管理主体责任。从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。同时，要发挥科技类社会团体的作用，推动设立中国科技伦理学会。

作为中国伦理学会科技伦理专业委员会常务理事，马永慧介绍，我国于2020年成立科技伦理委员会，中国伦理学会于2021年成立科技伦理专委会，这是落实党和国家要求加强科技伦理研究和治理的重要举措。中国科协也在积极推动成立中国科技伦理学会，融合科技伦理与学风道德建设，广泛汇聚科学家、工程师、法学家、企业家等跨学科的专家力量，开展伦理道德规范制定，强化国际间的交流对话，探索建立具有中国特色科技伦理治理体系。

针对科技伦理常涉及的生命科学、医学、人工智能等领域，《意见》提出，重点加强上述领域的科技伦理立法研究，及时推动将重要的科技伦理规范上升为国家法律法规。

“《意见》的出台对推动科技伦理治理的体制建设和制度保障方面，起到了打地基的作用。”青年科技工作者、生物医学博士王萱认为，对于涉及科技伦理的事件，从果上治理，战术前移到了从因上去治理。

马永慧也表示，传统科技活动中，对于科技伦理采取一种“先评估+再约束”的伦理管理框架，而技术本身迭代更新速度十分迅捷，需要采取“预见性+边发展边治理”的并行框架，科技伦理评估贯穿科技创新全周期，并实施一种调节反馈和共同进化的动态模式，从而达到科技创新真正造福于民的目的。

将制定科技伦理高风险科技活动清单

涉及科技伦理的事件，在审查程序上应该怎么进行规范？根据《意见》，中国将制定科技倫理高风险科技活动清单，届时，开展科技伦理高风险科技活动应按规定进行登记。

“清单会不断完善，目前重点关注的主要是生命科学领域、医药健康领域、人工智能领域等。”马永慧说，应根据科技活动涉及的风险性的大小，分类进行上报和审查。如风险较小，可由医院或者研究机构的伦理委员会进行审查，风险较大的研究就需要国家层面的伦理委员会审批。同时，建立科技伦理高风险科技活动伦理审查结果专家复核机制，组织开展对重大科技伦理案件的调查处理，并利用典型案例加强警示教育。

对于责任主体及责任人，《意见》也进一步明确提出严肃查处科技伦理违法违规行为，明确高等学校、科研机构、医疗卫生机构、企业等是科技伦理违规行为单位内部调查处理的第一责任主体。相关行业主管部门、资助机构或责任人所在单位要区分不同情况，依法依规对科技伦理违规行为责任人给予责令改正，停止相关科技活动，追回资助资金，撤销获得的奖励、荣誉，取消相关从业资格，禁止一定期限内承担或参与财政性资金支持的科技活动等处理。

“查处的方式方法相当于对行为本身进行了一个量化。”王萱说。“这体现了我国对挑战伦理红线的违法违规行为鲜明的态度和决心，希望这种惩罚对研究者具有警示和教育意义。”马永慧说，这种治理框架要求科技创新和科技伦理相得益彰、刚性监管和柔性伦理教育齐头并进、多元治理与伦理审查双管齐下。

《意见》还专门提出，加强对国际合作研究活动的科技伦理审查和监管。国际合作研究活动应符合合作各方所在国家的科技伦理管理要求，并通过合作各方所在国家的科技伦理审查。对存在科技伦理高风险的国际合作研究活动，由地方和相关行业主管部门组织专家对科技伦理审查结果开展复核。

技术本身迭代更新速度十分迅捷，需要采取“预见性+ 边发展边治理”的并行框架，科技伦理评估贯穿科技创新全周期，并实施一种调节反馈和共同进化的动态模式，从而达到科技创新真正造福于民的目的。

借鉴国外公众参与模式缓解公众担忧

在现代科技快速迭代和社会应用不断创新的今天，科技伦理建设已成为全球性议题。面对科技伦理的冲击，国外又是怎么做的，有哪些方式值得参考？

马永慧说，西方国家对待新兴技术，一直采用前瞻性、负责任和审慎的态度，重视“负责任的创新”（responsible research innovation）。她认为，国外科技伦理领域的公众参与模式是我们相对比较缺乏的，也是最值得学习借鉴的。新兴的科学技术，如健康大数据研究，其发展迫切需要公众贡献自身健康数据，而公众对其缺乏了解和认识，加之近些年来公众对新兴技术可能造成的环境、健康伤害和社会风险愈发担忧，导致公众对科学家和政府的信任度下降，对这一技术的理解和治理，显然不能沿用过去科学家教育公众这一单向的模式。于是各界开始反思科技与社会、科技与公众之间的关系定位，试图寻求解决之道。

马永慧说，借鉴国外纳入公众参与决策的先例来看，纳入公众的观点显得尤为必要。公众作为新技术应用的受益者，有责任参与到健康医疗大数据的研究当中去，知道什么是健康医疗大数据，它可能的应用领域，以及它将产生什么样的作用。同时，公众又是新技术应用不良后果的承担者，有知情的权利，也有参与科技决策的权利。

“公众参与科学技术决策自20世纪90年代以来成为世界许多国家的发展趋势，建立一种新型的政府—公众—科学之间的和谐关系对现状改善是可取之道。”马永慧说，公众参与是民主进程实践的重要标志，公众参与国家或社会政治、经济、文化生活的程度，彰显着一个国家或社会民主推进的程度。不仅是科技决策，在风险界定、评估、风险管理与损害管控等阶段中，也应该强化信息透明与开诚布公，并且尽可能思考纳入研究所在地民众以及多元利益相关者的参与，寻求具有社会强韧性的治理知识与共识，以解决公共争论中的歧视与恐慌。“伦理治理并非单向度考量伦理而忽视科技创新，也不仅是考虑社会福祉而忽视个体。伦理治理本质上是协同共治。”马永慧说。

◎ 来源|科技宣传文化资源库