“一体两翼”科技伦理治理体系的构建路径及策略

刘如　张惠娜

摘  要：我国科技伦理治理工作起步较晚，治理体制机制不健全、治理主体责任界限不明确、治理对象不重视等问题较为突出，亟待完善科技伦理治理体系。文章从新时期科技伦理治理的主要特征出发，深入挖掘我国科技伦理治理体系存在的问题，并针对问题提出“一体两翼”科技治理体系的构建路径及策略，从创新体制机制建设、建好人才培养培训体系及塑造科技伦理共同责任意识等方面构建“一体两翼”的科技伦理治理体系。

关键词：“一体两翼”；科技伦理治理；科技伦理意识

中图分类号：B82 文献标识码：A DOI：10.19881/j.cnki.1006-3676.2023.03.08

近年来，基因编辑、人工智能、辅助生殖等新兴技术的快速发展引发了一系列社会不确定性和伦理风险，带来了各类潜在的公共安全风险和社会争议。从“黄金大米”到“基因编辑婴儿”，此类事件引发的争议超出了传统的个体或单个机构的价值认知和道德判断范围，需要更高层面、更大范围的行业、国家乃至国际层面的价值共识和行为规范，这敦促我国加快推进科技伦理治理的脚步。

2020年10月，我国国家科技伦理委员会正式成立。2022年3月，中共中央办公厅、国务院办公厅印发我国首个国家层面的科技伦理治理指导性文件《关于加强科技伦理治理的意见》（简称《意见》）。可见，科技伦理引发的社会问题及其治理已引起国家层面的关注。相对而言，我国科技伦理治理工作起步较晚，治理体制机制不健全、治理主体责任界限不明确、治理对象不重视等问题较为突出，科技伦理治理体系亟待完善。[1]

一、新时期科技伦理治理的主要特征

（一）时代特征：新兴技术革命的不确定性加重科技伦理治理难度

历史上任何时期都没有像当前一样，新兴技术无论是从深度还是广度上都表现出无与伦比的开放性和扩散性—新兴技术创新速度迅猛，且大多数处于技术成熟度的前半段，尚未形成固定的发展模式，其伦理问题具有很强的不确定性和未知性。新兴技术的发展不仅对科技安全带来冲击，也可能重构社会版图和大国竞争格局。[2]新兴技术革命的不确定性更是加重了科技伦理治理难度。例如，人工智能失控的社会风险、大数据技术对人类隐私安全的侵犯、合成生物技术引发的流行病毒、脑机接口技术或将控制人的行为等，这些新兴技术所带来的伦理影响纷繁复杂，既有伦理规范无法回应其发展带来的潜在风险，也有给科技伦理监管部门带来的监管难题，科技伦理治理难度空前。

（二）社会特征：科技向善的价值目标日益异化，科技逐步异化成为国际政治斗争的手段和工具

随着国际政治关系日趋复杂，尤其是中美科技竞争的日趋白热化，科技不断被工具化、利益化乃至政治异化。例如，2022年3月，新美国安全中心（CNAS）发布了两份关于加强国际科技合作以对抗中国的报告。一份是《调整美国—以色列在科技和中国问题上的合作》，该报告对美国和以色列的技术合作进行了战略研究，其加强美—以科技合作的战略宗旨不是为了促进民生福祉，而是为了对抗中国的崛起；另一份是《数字盟友：深化美韩科技创新合作》报告，探讨了美韩如何通过扩大技术合作来扩大和深化联盟以对抗中国。可见，美国的科技发展乃至国际科技合作已被政治化为其开展国际斗争的工具。日趋严重的科技异化趋势呼吁出现更符合人类价值观的国际科技伦理治理体系。

（三）国际特征：科技伦理风险是全人类共同面临的问题，亟须加强国际对话、沟通交流形成共识

不同文化传统、不同民族乃至不同发展阶段的国家对科技伦理问题的认识存在诸多差异，这给国际科技伦理共识的形成和科技伦理治理的协作带来了一定的难度。目前，国际上要么囿于国家界限，要么囿于行业界限，尚没有形成科技伦理治理的统一原则。以人工智能领域为例，美国于2017年发布的《人工智能设计的伦理准则》白皮书强调，人工智能需要遵循“人类权利、福祉、问责制、透明性和慎用”原则；日本于2018年发布的《以人类为中心的人工智能社会原则》强调，人工智能需要遵循“人类中心、教育应用、保护隐私、保障安全、公平竞争、透明性和创新”原则；欧盟于2019年发布的《可信任人工智能的伦理指南》草案强调，人工智能应体现“尊重人类自主性、预防伤害、公正性、可解释性”的原则；我国于2019年发布的《新一代人工智能治理原则—发展负责任的人工智能》提出，“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理”等原则。可以看出，各国人工智能领域的科技伦理规范均有所不同，存在一致性也存在着诸多差异，尚未有统一的规范性纲领，亟待建立共同但又有区别的国际科技伦理治理原则，在共识基础上发展和应用人工智能技术。

（四）治理特征：科技伦理委员会成为主要监管机构

目前，各国较为常见的科技伦理治理主体是各种层面、层次的科技伦理治理委员会，既包括国际层面、国家层面、地方层面的，也包括行业层面、机构层面的。作为主要监管机构，这些伦理委員会为科技创新周期各个阶段提供系统的治理原则和监管工具，包括立法咨询、事前审批、事中监督和事后跟踪的全过程伦理制约。例如，成立于1993年的国际生物伦理学委员会（IBC）就是国际层面的科技伦理委员会，该委员会致力于生命科学及其应用研究，为生物伦理思考提供全球平台，以确保对人类文明和自由的尊重。[3]我国科技伦理治理的主体也是以各种行业伦理委员会为主，如国家卫生计生委医学伦理专家委员会、药物临床试验伦理委员会、器械临床试验伦理委员会、器官移植伦理委员会、生殖医学伦理委员会、动物伦理委员会等，这些机构都肩负着科技伦理治理和监管的责任。作为科技伦理治理主体，这些机构均在不断扩大委员会成员范围，在科学家之外，还逐步纳入了伦理学家、企事业单位管理人员、科技研发人员、群众代表等利益相关者，跨领域、专业化人才在科技伦理治理过程中的作用逐步凸显。

二、我国科技伦理治理存在的问题

我国的科技伦理治理起步较晚。20世纪90年代，我国在医院、科研机构层面先后引入了伦理委员会制度，但在大学、科研机构和企业成立伦理委员会的比例较低。2020年，国家科技伦理委员会成立。在这一委员会指导下，科学技术部会同相关部门，先后成立了国家科技伦理委员会人工智能、生命科学、医学3个分委员会，推动相关部门成立科技伦理专业委员会，指导各地方建立或筹建地方科技伦理委员会。2022年，《意见》的印发标志着我国开始对科技伦理治理进行顶层设计和系统部署。但总体而言，我国科技伦理治理相对滞后，无法满足和应对复杂的科技伦理现实问题。

（一）治理体系不健全，科技伦理治理机制尚不完善

科技伦理问题变化迅速、涉及面广。但当前我国的科技伦理治理体制机制尚不完善，未能实施伦理敏感的敏捷治理，具体体现在以下4个方面：其一，科技伦理研究尚未跟上我国科技事业发展的步伐。例如，很多“无人区”颠覆性技术及相关应用的伦理审视与价值判断尚未跟进发展，甚至某些重要领域的科技伦理研究才刚起步，缺乏前瞻性、储备性研究。其二，科技伦理治理领域发展不均衡，医学等领域已有相对较为完整的科技伦理体系，而某些新兴科学技术领域亟须相应的标准和规范。其三，部分领域虽有明确的管理体系和科技伦理规范，但在伦理审查方面存在着审查和监管不到位乃至惩治力度不够等问题，对违规行为难以起到威慑作用。另外，囿于观念和人才不足等问题，很多科研单位并未设立科技伦理委员会，对相关工作缺乏监管和审查。其四，我国科技伦理治理还存在着法治化水平不高问题。虽然目前生命、医学、信息等领域开展了科技伦理立法研究，颁布了如《中华人民共和国生物安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等相关法律法规，从法律层面推动科技伦理治理，但对于应该推动哪些伦理问题上升到法律层面加以保障，以及如何推动伦理问题法治化发展等仍缺乏深入研究，缺少明确的规定，导致科技伦理治理法治化水平远滞后于科学技术发展的法治需求。

（二）治理主体责任界限不明确，科技伦理治理人才数量和质量尚不能满足科技伦理治理事业发展需求

科技伦理治理涉及法律、行政、学术监督等诸多领域，相关政府部门、科研院所、高校、企业以及科技类社会团体等诸多力量都应参与其中，但在《意见》出台之前，我国并未明确规定治理主体和治理职责，政府部门、科研机构、学术期刊、学会、科研人员等在治理体系中的主体责任界限不明确。另外，科技伦理治理是一项专业性较强的工作，我国科技伦理人才队伍的规模和水平不能满足科技伦理治理发展需求，尚未形成强有力的审查和监管队伍，外行管内行的问题还很明显，具体表现在以下3个方面：其一，从学科设置来看，我国的科技伦理学科属于伦理学的一个分支，而伦理学又属于哲学学科门类下的特设学科，设置该专业的高校和科研院所并不多。在伦理学学科中，从事科技伦理这一细分领域的专业研究人员数量更是少之又少，且力量较为分散。其二，我国虽在医学、生命科学等部分新兴领域设置了科技伦理课程，但很多其他专业并未设置科技伦理专业课程，即使工程学、生态学等专业领域设置了相应的课程，也多处于选修课范围。另外，我国义务教育阶段以及高中阶段对科技伦理知识的教育和普及较少，鲜有涉及。其三，科技伦理人才参与国际科技伦理治理能力不足，缺乏对国际相关规则、现状及趋势的把握，不能满足我国从全球科技伦理治理的参与者向引领者转变的现实需求。

（三）部分科研人员科技伦理意识淡薄，缺乏对科技伦理的敬畏之心

科技伦理治理涉及政府管理部门，高校、科研机构、企业等创新主体，学会、协会、研究会等科技社团，科研人员和社会公众等不同主体。[4]科研人员是科技伦理治理主体重要力量之一，科研人员自身科技伦理规则意识淡薄是科技伦理治理中较为突出的问题。科研人员自身科技伦理意识淡薄，缺乏对科技伦理的敬畏之心，影响了科技伦理规则的有效实施。例如，部分科研人员对科技伦理及相关规范缺乏足够的重视，甚至为了利益作出突破伦理底线乃至违法的行为，缺乏对科技伦理的敬畏之心；部分科研人员科技伦理意识不强，化科技伦理规范“他律”为“自律”的自觉性不够，主动考量科技伦理风险的积极性和主动性不高，亟待提升科技伦理道德意识和水平。另外，对科技伦理治理的社会宣传不够，未引起公众对科技伦理问题的足够重视，在推动科技向善方面缺少足够的社会舆论引导。

三、“一体两翼”科技伦理治理格局的构建路径及策略

新时期，为应对日益迅猛发展的科技发展现实，我国应构建科技伦理治理“一体两翼”发展格局，补齐科技伦理治理短板，护航科技强国建设。其中，“一体两翼”的“一体”是指加强科技伦理体制机制建设，“两翼”分别是加快科技伦理人才培养及提高科研人员伦理意识。

（一）创新体制机制建设，完善科技伦理审查监管机制

第一，完善政府科技伦理管理体制。加强科技伦理治理顶层设计、战略规划和系统部署，建立和完善符合我国国情的科技伦理治理管理体系。强化科技伦理治理的法律保障和制度保障，构建能适应突发事件快速响应的应急审查机制，推动科技伦理法律、规范和标准制定的专业化、现代化和国际化。从高风险科技活动领域和高敏感伦理价值两个角度，全面认识和加强科技伦理治理。[5]充分調动各方资源力量，逐步构建起政府主导、多方参与、协同共治的科技伦理治理管理机制，汇聚形成科技伦理治理合力。第二，充分发挥高校、科研机构、医疗卫生机构、企业等单位在科技伦理治理中的主体作用。推动科技创新主体单位设立与自身发展相符合的科技伦理委员会，督促其严格履行科技伦理治理主体责任。对尚不具备设立科技伦理委员会条件的单位，可委托其他科技伦理委员会开展审查监管，促进第三方科技社团等社会组织在科技伦理审查与监管方面发挥作用。第三，提高科技伦理治理法治化水平。强化科技伦理相关领域立法工作，加强法律对科技伦理的刚性约束，惩戒科技伦理违法违规行为，以法律保障守住科技伦理治理底线。

（二）建好人才培养“四张网”，提升治理专业化水平

第一，建好学校“培养网”。强化“技术+伦理”的科技伦理通识课程体系建设，打造从义务教育阶段到高等教育阶段全覆盖的科技伦理人才培养体系，加大医学、生物学、信息技术、工程学等专业课程中科技伦理相关课程的设置比重。第二，建好创新“培育网”。加大对科技伦理研究的经费和人员支持，加强对合成生物学、认知神经科学、信息通信技术、人工智能等新兴技术及应用的前瞻性伦理审视和价值判断。推进科技伦理前沿研究，促进科技伦理研究的多元化、跨学科化和国际化发展。第三，建好监管“培训网”。加强对科技伦理管理机构和科技创新主体中相关人员的科技伦理教育和培训，并重点在生命科学、人工智能等新兴技术领域，组织编制专业培训教材，定期开展相关培训工作。第四，建好国际“交流网”。搭建国际交流平台，拓展科技伦理人才国际视野，培养科技伦理人才参与国际科技伦理重大议题研讨和规则制定的能力，推动我国科技伦理人才在建立“共同但又有区别的”国际科技伦理治理原则方面发挥更多作用。

（三）构建科技伦理“三道线”，提高科技伦理共同责任意识

第一，坚守“道德底线”，埋下科技伦理意识种子。为科研活动及技术应用设置道德底线，强化科研人员的主体责任和责任意识，引导科技工作者将道德和责任概念内化于心，在科学研究和技术应用中遵循“负责任的研究和创新”（RRI）理念，自觉践行科技伦理原则。同时，加强对科技伦理的广泛宣传引导，提高全社会科技伦理意识。第二，拉起“伦理红线”，明晰科技伦理边界。将科技伦理纳入科研和人才评价体系，引导科研工作者明晰科技伦理边界，遵循伦理规范。同时，随着科技工作者道德自觉水平的提高，化“他律”为“自律”，将技术滥用可能引发的伦理风险控制在最小范围内。第三，恪守“规则高压线”，竖起科技伦理防火墙。为科研活动设置“有所为和有所不为”的边界、规范和准则，注重前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战，建立和完善相关法律法规、伦理规范和政策，将科技伦理规范纳入制度和法律之中，对科研人员和科研活动严格监管，通过科技伦理共同责任意识的树立，将科研活动限定在合理、安全的防火墙内，引导科技向善发展。

参考文献：

[1] 张惠娜，刘如.补齐科技伦理治理短板，促进科技事业稳健发展[N].科技日报，2022-04-11（08）.

[2] 袁立科，韩佳伟.新兴技术发展安全风险与治理路径分析[J].科技智囊，2023（01）：29-36.

[3] UNESCO.International Bioethics Committee[EB/OL].（2023-01-19）[2023-02-06].http：//en.unesco.org/themes/ethics-science-and-technology/ibc.

[4] 王志刚.完善科技伦理治理体系 保障科技创新健康发展[J].求是，2022（20）：43-47.

[5] 刘永谋.深刻认识科技伦理治理[N].学习时报，2022-05-16（A7）.

The Construction Path and Strategy of“One Body，Two Wings”Scientific and Technological Ethics Governance System

Liu  Ru1    Zhang  Huina2

（１.Chinese Academy of Science and Technology for Development，Beijing，100038；2.Beijing Academy of Science and Technology，Beijing，100089）

Abstract：The work of scientific and technological ethics governance in China started relatively late，there are serious problems such as the governance system and mechanism are not sound，the responsibility boundaries of governance subjects are not clear，scientific and technological ethics issues are not taken seriously，it is urgent to improve the scientific and technological ethics governance system. Starting from the main characteristics of scientific and technological ethical governance in the new era，the article deeply explores the problems in China's scientific and technological ethical governance system，and puts forward the construction path and strategy of building a scientific and technological governance system characterized by“One Body，Two Wings”，the scientific and technological ethics governance system by “One Body，Two Wings”should be constructed from innovative system and mechanism of scientific and technological ethics governance，the construction of personnel training system and the consciousness of joint responsibility of scientific and technological ethics.

Key words：“One Body，Two Wings”；Ethical governance of science and technology；Scientific and technological ethics consciousness

基金項目：本文系国家社科基金“从参与到共治：STS视角下的生物技术治理”（项目编号：21FZXB063）研究成果。

作者简介：刘如，1982年生，硕士，副研究员，研究方向：科技创新政策。张惠娜（通信作者），1978年生，博士，副研究员，研究方向：区域创新与人才发展。