科技伦理治理体系对策研究——以杭州为例

高迪，郑崇辉，吴家章

（国科大杭州高等研究院，浙江 杭州 310024）

0 引言

近年来，以人工智能、生命健康等为代表的新兴科技,一方面不断颠覆人类的认知，拓展了人类对科技的探索疆域，另一方面也以其强大的科技生命力持续重构整个世界的格局和发展。然而，人们运用新兴科技改变和重构世界发展的同时，也发现新兴科技给人类和自然界的发展带来了未曾预见的风险，冲破了人类固有的伦理秩序和科技规范，引发了前所未有的新伦理困境。比如引发全球关注的ChatGPT（Chat Generative Pre-trained Transformer）基于生成式预训练转换器，代表的现有人工智能语言模型基准，虽然在技术上有所突破，但是无法解决其中蕴含的大量伦理问题，因此，极有可能局部体现为“各式社会偏见与各类不当运用，从而造成不负责任的伦理风险与社会后果”[1]。尽管我国的科技伦理治理实践业已展开，但还是面临着一系列诸如隐私保护、基因编辑、异种移植等问题的伦理挑战。基于此，全球各国都高度重视新兴科技带来的伦理冲突以及科技伦理的治理问题，也在纷纷研究和出台相关意见和制度。习近平总书记在2021 年5 月两院院士大会、中国科协第十次全国代表大会上指出，科学技术具有世界性、时代性，是人类共同的财富，但另一方面也具有潜在的风险[2]。

我国已有学者为了应对高新科技带来的伦理风险，提出了诸多治理原则与对策。陈雯等在《低碳科技伦理风险审视》（2012）中围绕低碳科技伦理风险，提出建设科技伦理生态，加强科技主体伦理责任，确立前瞻性责任伦理，引入社会公众治理；黄小茹等人在《从边界组织视角看新兴科技的治理机制——以合成生物学领域为例》（2019）一文中提出为了应对新兴科技的不确定性和复杂性，需要使用“边界组织”来调控新兴科技的发展等。于雪等人撰写的《高新科技伦理治理的问题及其对策》（2021）一文中指出传统的科技治理中所存在问题，明确了科技伦理治理思想、对象、建设机制等内容[3]。

针对人工智能伦理风险治理,欧盟人工智能高级专家组于2019 年4 月发布《可信任的人工智能伦理指南》,提出“尊重人类自主、防止伤害、公正与可解释性”伦理原则;美国出台了《自动驾驶法案》《2018 年人工智能法案》等。在大数据技术伦理风险治理方面,欧洲经济和社会委员会(EESC)启动了大数据伦理调查,并提出5项治理举措[4]。

为保障科学研究在符合伦理规范的条件下快速健康发展，在世界范围，我国首次从国家层面提出科技伦理治理纲领性文件[5]。2022 年3 月20 日，中共中央办公厅和国务院办公厅发布了《关于加强科技伦理治理的意见》（以下简称《意见》）[6]，为新兴科技发展的伦理治理指明了方向和规划。

浙江也高度重视科技伦理治理问题，2023 年3 月30日，成立科技伦理委员会[7]。杭州致力于在人工智能、生命健康与科学以及环境科学等重点新兴科技领域实现核心技术突破[8]，作为全国数字经济领跑者的杭州也将跑入以上新兴科技领域“无人区”，亟须进一步建设和完善科技伦理治理体系对策举措。

1 新兴科技存在的伦理风险

1.1 不确定性风险

现代社会，新兴科技发展迅猛，在人们享受科技带来的高效便捷的工作生活同时，也出现了前所未有的科技的异化现象。比如2018 年的贺建奎事件，这一事件一方面反映出当时的中国还存在伦理监管不力、没有相应的预防机制等问题，另一方面也让我们看到人类基因编辑技术本身是否安全和可靠的问题[9]，以及如何预防新兴科技发展不确定性的问题。

国外特斯拉的Autopilot（自动驾驶仪）功能近几年在全球范围多个国家内引发多起事故,造成驾驶人员伤亡[10]，使得人们开始担心这项新兴技术可能带来的不确定的技术安全问题以及相关的伦理风险。

1.2 隐私安全风险

杭州作为全国数字经济领跑者，数字化和智能化的发展给杭州人民生产生活带来诸多便利。但是,人类自身的个人信息，比如：个人健康医疗数据、个人肖像、家庭财务状况、家庭住宅位置、人际交往等个人隐私也存在信息泄露、信息被滥用和破坏的风险，增加社会治安管理的成本。

比如现在比较广泛使用的手机网约车软件，在科技赋能为人们交通出行提供便利的同时也存在信息泄露、价格垄断等潜在的科技伦理问题[11]。新兴技术的发展一定程度上使人们更依赖技术，从而弱化了自身防御能力。

1.3 社会公平失衡风险

新兴技术发展在带来巨大好处的同时,也会带来巨大挑战, 新兴行业对传统行业会造成一定的冲击，未来这个发展还会加剧，对现有劳动产业分布和就业结构产生影响[12]。在新兴技术发展的过程中，还会出现一些技术发展带来的歧视问题，面对发达国家新兴技术发展迅速而发展中国家新兴技术相对滞后的现状，存在世界公平失衡的风险[13]。

1.4 生态环境风险

乌尔里希·贝克提出“由于科学技术的飞速发展及科学技术与经济活动相结合而导致技术经济的飞速发展，使得工业社会的物质财富极为丰厚，这为绝大多数社会成员造就了舒适安逸的生存环境，但也带来了核危机、生存危机等风险后果，这是一种可以毁灭整个人类的巨大风险[14]。”新兴科技推动人类发展的同时，也可能引起生态破坏的风险，比如核工程中产生的放射性物质可能会泄漏到环境中，造成严重的放射性污染，可能会对周围的生态环境和生物链造成毁灭性的影响。一些新兴科技发展需要大量自然资源和环境资源，对生态环境造成了破坏，应通过加强科技伦理风险治理,促进技术与自然生态环境和谐相处。

2 杭州科技伦理治理体系存在的问题

《意见》指出，科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。浙江也高度重视科技伦理治理，成立了浙江省科技伦理委员会。当前，杭州高新技术产业蓬勃发展,面临的科技伦理挑战也前所未有，针对存在问题，课题组瞄准杭州高新技术产业重点领域和战略性新兴产业前沿领域，主要对以人工智能为重点的“互联网+”领域科技伦理治理、生命科学和医学为重点的生命健康领域科技伦理治理以及环境科学领域科技伦理治理开展了问卷调研，梳理与分析以上领域科技伦理治理体系建设问题。截至2023 年9 月30 日，共收到1773 份问卷，此问卷调研对象为杭州高等院校、科研院所、医疗卫生机构和科技企业，其中高等院校和科研院所是主要调研对象，占比65%，科技企业占比27%，根据调研问卷中“您所在单位是否成立了科技伦理委员会并制定了相应的章程和审查制度？”“您所在单位是否制定了科技伦理风险监测预警机制？”“您所在单位是否会定期开展科技伦理治理教育培训工作，培训周期和频次如何？”以及“您所申请的科研项目是否要先通过伦理审批？”等一系列关于科技伦理治理体系建设的现状与问题、科研人员的伦理意识与认知等进行调研，发现杭州科技伦理体系还有进一步完善空间，主要表现在以下几方面：

第一，科技伦理参与主体比较单一。在当前新兴技术伦理风险治理过程中,政府是主要治理力量,发挥主要治理作用[15]。但是科技伦理治理主体还包括高校科研院所、科技企业相关利益者、社会团体和公众等科技发展的相关单位。从问卷反馈来看，只有55%的调研人员选择了“其他相关主体”，还有相当一部分科技人员没有意识到其他科技伦理治理主体的作用，并且部分调研参与者没有看到政府主导，各治理主体之间的协同联动作用，致使科技伦理治理效果被削弱。

NHB表现为皮肤、巩膜及黏膜黄染，是血液中未结合胆红素水平升高导致的[7]，未结合胆红素可以通过血脑屏障侵入脑组织造成脑细胞核黄染，形成胆红素脑病，对神经系统产生不可逆转的损害，易给患儿留下神经系统后遗症[8]。导致新生儿黄疸的原因较多，药物、换血等都是重要的致病因素。病毒感染、细菌、肝酶活力降低以及胆红素排泄障碍是导致NHB的重要原因[9]。

第二，当前，杭州科技伦理治理制度不够完善，难以适应新兴技术伦理风险治理的现实需求，科技伦理审查制度还存在落实不足的问题，相关法律制度建设较为薄弱。65%的问卷选择了要“进一步加强科技伦理法治建设”，呼吁建立地方性法律法规政策以完善杭州科技伦理治理体系。

第三，科技伦理治理的前瞻性预防不力，科技伦理治理难以贯穿始终，且科技伦理宣传教育力度也不够。调研问卷中占比22%的人员不清楚科技伦理治理的前瞻预防政策是什么，占比29%的人员表示从未参加过科技伦理相关的宣传教育活动。单靠政府来进行全市的科技伦理治理宣传教育工作还不够，要发动所有治理主体，尤其是高校和科研院所的力量来普及科技伦理宣传教育工作。

3 杭州建设科技伦理治理体系的对策举措创新研究

针对杭州科技伦理治理体系建设过程中存在的问题，研究并创新构建“增进杭州人民福祉，树立正确的科技伦理价值观，确立协同联动的多元治理主体，融合治理前瞻研究、管理机制体制研究、全过程监督审查并厚植科学伦理文化土壤为主要构成”的科技伦理治理体系对策举措（如图1）。

图1 杭州科技伦理治理体系建设对策举措

3.1 增进杭州人民福祉，树立正确的科技伦理治理价值观

开展新兴技术科技伦理治理工作首要前提是树立正确科学的价值引导，在科学理念的指导下，聚力打造新兴技术伦理风险的新型治理格局，切实发挥新兴技术造福人类的重要作用。

从“以人民为中心”的发展理念出发，坚持科技伦理原则开展科技创新活动,新兴科技发展要惠及广大杭州人民，努力维护和提高人民的根本利益和安全感。要尊重生命权利，科技伦理治理要保护人民群众的身心健康免遭新兴科技潜在风险的伤害，同时开展科技创新活动要尊重不同社会群体,综合考量不同群体的价值诉求,避免引发歧视和偏见问题[13]。

3.2 构建多元主体参与、协同联动的科技伦理治理平台

新兴科技伦理治理是涉及技术和社会等多方利益主体的治理工作。政府要起到主导作用，高校、科研机构等科技创新主体要做好伦理相关的研究工作，并压实管理主体的责任作用，对科研伦理失范行为第一时间进行阻止和处理，切实执行政府的相关政策。还要提高科研人员和公众的伦理意识，搭建沟通平台，多方联动，共同治理，将各治理主体的作用最大化。

3.2.1 要以政府为主导, 加快成立建设各级科技伦理委员会

新兴科技伦理治理要始终坚持政府主导，充分发挥政府在治理过程中的主导作用,要加快建设杭州各级科技伦理委员会，充分发挥杭州科技伦理委员会的指导和统筹协调作用，从而监督保障杭州科技伦理治理工作落实到位。

3.2.2 明确科技伦理治理主体并切实发挥作用

这些治理主体要明确自身肩负的伦理治理的责任与职责，还没有成立伦理委员会的高校、科研院所、科技企业、科协等团体要积极成立伦理委员会，制定本单位的科技伦理制度，做好本单位的监督治理工作，政府要监督各单位的执行情况。做到政府主导，多元治理主体的共同参与。

3.2.3 搭建多元治理主体沟通平台，实现协同联动

在实现科技伦理治理的过程中，必须要保证多元主体的协同参与。政府牵头搭建科技伦理多元治理主体沟通平台，促进治理主体间的协同联动，使得在科技创新一线的高校、科研机构以及科技企业行业能够用科学准确的信息和方式将科技伦理风险传递给政府，根据新兴科技的不断发展，共同研讨和更新科技伦理治理制度，不断完善科技伦理治理体系。

同时建立多元主体协同合作机制，实现新兴科技风险以及对应的伦理治理制度在平台上信息共享，避免信息遗漏或者重复制定政策，实现科技伦理治理从单一分散管理向多元协同治理的转变，提高治理效率。

平台也要尊重科研人员和公众的意见，科研人员要在伦理委员会的带动下，积极参与各项伦理培训学习活动，提升行业自律。平台信息向所有主体开放，接受公众的监督，拓宽主体沟通渠道。

3.3 发挥高校和科研院所优势，加强科技伦理治理风险预测和前瞻研究

充分发挥高校、科研院所的优势，积极组织搭建学术交流平台，推动杭州相关机构、科技组织、学者共同深入开展科技伦理治理研究，加强科技伦理学科建设，造就一批高水平的科技伦理专业人才队伍，深入研究科技伦理的理论内涵，探索实践外延，探究规范制定以及可行性治理路径。研究科技活动伦理评估的理论内涵和预测方法，做好新兴科技的风险评估和风险防范工作，为杭州科技伦理治理提供前瞻性谋划。

3.4 实现治理上的多措并举，在科技管理层面进一步完善体制机制保障

3.4.1 加强政府监管力度，建设伦理委员会监管制度

科技伦理制度的落实需要监管部门监督落实，建设伦理委员会监管制度。充分发挥好现有伦理委员会和伦理制度监管，针对人工智能、生命健康与科学等交叉学科新兴技术和科研项目申请，制定详细的伦理审查和监督管理制度，细化责任落实制度，明确项目单位、项目负责人的责任，做好科研项目全过程监管，并制定相应的审查流程和监管制度，加大对违反科技伦理事件的查处和惩治力度等。

3.4.2 加强科技伦理治理的法律监管机制

加强政府在科技伦理治理过程中的法律监管机制层面的保障作用。在调研过程中，65%的问卷受访者提出不但要加强科技伦理治理建设，还要进一步加强科技伦理法治建设，使得科技伦理治理制度体系的出台有法可依，可真正保障科技伦理治理体系的全面监管和落实。

探索制定针对杭州新兴科技产业快速发展的科技伦理监管法规，综合已有的伦理治理法规政策，建设适合地区科技伦理治理的区域性专门法律法规，并细化配套政策。

3.5 高度重视科技伦理治理教育工作，进一步践行伦理治理职责

高校和科研院所要起到正确的科技伦理价值引领的作用，并发挥学科优势，积极研究科技伦理治理论以指导实践，并形成有效的治理规范，建立治理机制。要向学生宣传教育科技向善的伦理理念，严查伦理失范等行为，积极践行伦理治理主体责任。

根据调研，杭州各大高校均已面向理工科学生开设《工程伦理》等科技伦理类课程，要切实提升课程教学质量，在学生刚开始接触科研工作的时候就树立正确的科技伦理观，培养和提升学生的科技伦理意识。高校和科研院所还要加强教职工和技术辅助人员的科技伦理宣传教育工作，定期做好伦理培训工作，定期做好学生入学、新职工入职的科技伦理宣讲工作，清晰传达科技伦理规范、实验室操作规范等内容，并制定科技伦理培训计划，由学校和科研机构的伦理委员会监督，定期定时做好执行工作，使得科技工作者自觉遵守科技伦理，抵制科技风险。

3.6 做好科技伦理宣传活动，在全社会的层面厚植伦理文化土壤

社会公众是新兴技术的利益相关重要主体之一，新媒体、相关学会、协会等应搭建科技伦理宣传平台，加强新兴科技伦理宣传，将科技伦理社会文化融入科技发展的血脉，使良好的科技伦理治理拥有坚实的社会文化基底支撑[16]，更好地发挥社会公众对新兴技术的监督作用，促使社会公众高度重视科技伦理治理，进而推动全社会多主体共同承担科技伦理主体责任，携手推进杭州乃至中国科技事业良好向善发展。