技术应用不确定性的道德治理何以可能

阎国华

(中国矿业大学马克思主义学院，江苏 徐州221116)

不确定性意指不能确知性，主要由量子力学的测不准理论发展而来，已经成为叙述偶然性、随机性、模糊性、或然性、混沌性、不完全性、不一致性以及不稳定性等现象的基本概念(1)胡潇：《主体行为不确定性的科学技术究诘》，《学术研究》2017年第2期。。现代技术的不确定性可以分为技术本身的不确定性和应用后果的不确定性，前者主要突出技术具有演进性特征，而后者是学界争议的焦点，也是本文讨论的主要对象。例如，克隆人技术所带来的未知风险问题就主要属于技术应用不确定性。一项技术对人、自然和社会的不确定性影响，会让是否应用该技术、如何应用该技术变得不单单是技术选择或利益选择，更是一种价值选择，需要道德考量的深度介入。道德治理内涵丰富，主要是将道德作为一种治理手段，利用道德的力量来维护健康理性秩序。因此，深刻理解技术应用不确定性的内涵和诱因，了解道德治理在该问题应对中的参与价值与参与路径，对于完善相关技术、更好地服务人类发展都极为重要。

一、何谓技术应用不确定性

技术应用不确定性是对技术应用后果不确定性的简称，核心词是“不确定性”。技术应用不确定性并非仅限于某项技术，而是针对一类技术而言的，标识性特征在于该项技术应用是否会显著地引发不确定性风险。之所以提出这一概念，乃是由于一批技术，尤其是新兴技术，在此问题上具有大致相同的问题、特征和演变逻辑，需要进行特别的研究与应对。技术应用不确定性呈现出不同维度，主要可以从认识论、本体论、价值论和实践论等不同层面加以考察。

(一)基于认识论层面的探讨

认识论层面的技术应用不确定性通常源自主体的认识不足或者客体的自身复杂性。主体的认识不足一般是由于认识工具、认识思路、认识能力等因素欠缺所致。随着相关认知手段的发展，主体对客体的认知会逐渐深化，通过不断祛除客体神秘感，进而实现对客体不确定性认识的深化和有效驾驭。针对历史上曾经出现的许多新问题、新事物和新发现，人类在认识上都经历了由模糊到清晰的发展过程，甚至其中有些问题至今仍在探索之中。客体自身的复杂性一般是指该项技术本身难以被确切认识，或晦涩难懂，或结果难料。对于这个问题，有一个生动的比喻叫“科林格里奇困境”(Collingridge’s Dilemma)，表达的是一项技术的社会后果不能在技术生命的早期被预料，而当不希望的后果被发现时，该技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制已经十分困难(2)Collingridge D，The Social Control of Technology，Milton Keynes：Open University Press，1980，P.11.。

(二)基于本体论层面的探讨

本体论层面的技术应用不确定性主要源自技术本身的随机性、偶然性或者无序性，存在着无法完全确定的可能，例如微观粒子的无序运动、生物的基因突变等等。针对一些具体问题，本体论和认识论的划界也不是一成不变的，存在交汇与演变。伴随人类认识能力的不断拓展和认识水平的不断提高，本体论和认识论上的不确定性可能发生转换，一些目前看起来属于本体论的不确定性可能会演变为认识论范畴的问题。此外，多数技术的应用还会通过影响人类社会的物质或精神生产模式产生改变旧状态、建构新图景的重要作用。技术的这种塑造作用也并非千篇一律，而是技术应用和人类选择双向复杂互动的综合结果，呈现出影响作用、影响方式和影响程度等多向度的不确定性。

(三)基于价值论层面的探讨

价值论层面的技术应用不确定性主要与人们的行为、思想、情感、态度和意志等因素密切相关。在技术应用的过程中，价值是一个被反复提及、考虑和权衡的基础性问题。技术应用的价值体现为一个复杂的体系，既要受使用方法等应用形式的影响，又要受时间、空间等应用边界的限制，还要受使用者应用意图的影响，并且会因此得到不同的价值体现。同时，由于人们价值态度的种类繁多、莫衷一是，甚至是“各自为政”，于是在追求不同价值的过程中，也让技术应用呈现出诸多不确定性。一项技术的应用是否具有价值？对谁更具价值？对于少数人还是多数人具有价值？长期看还有没有价值？诸如此类的问题是技术应用必须面对的价值选择，也是技术应用不确定性的价值论根源。

(四)基于实践论层面的探讨

实践论层面的技术应用不确定性可以分为技术本身的不确定性和应用后果的不确定性。前者是指技术本身缺乏稳定性，而后者则是指技术应用结果具有复杂性、随机性、演进性和不可知性等特征。以人工智能为例，人工智能产品一方面可以执行人类意图，另一方面还可以实现自主学习甚至自主决策。这种情况下，人类对人工智能技术的困惑与不安，主要来自人工智能的后一个方面技能，即对其自主决策存在不确定性的忧虑(3)李建中：《人工智能：不确定的自主性知识创造》，《自然辩证法研究》2019年第1期。。此外，技术应用不确定性还涉及到主体行为的不确定性。在技术实践中，充满个体意志的多元主体可能对客体采用五花八门的利用策略。这种主客体无数偶然因素的叠加正在不断超越传统技术应用的程度、方式和方法，也往往会引发各种不确定性问题(4)Ineks S.M Meijer,Marko P.Hekkert,Joop F.M.Koppenjan,How Perceived Uncertainties Influence Transitions：the Case of Micro-CHP in the Netherlands[J].Technological Forecasting & Social Change，2007，Vol.74，No.4，pp.519-537.。

二、技术应用不确定性何以生成

技术应用不确定性存在一些共性诱因。这些诱因既是此类技术与其他技术的显著区分标志，又往往是保障此类技术应用安全的防控重点。概括起来，技术应用不确定性的主要诱因主要包括以下五个方面：

(一)潜在风险难以识别

潜在风险难以识别是技术应用不确定性的重要诱因。在应用实践中，某些技术是否存在风险、存在何种风险常常难以确定。这种现象一方面是由于人类对此技术的认识可能还不确切，另一方面是因为很多技术风险的确定需要广泛验证和长效验证。这些验证不仅需要足够的样本和数据，比如医学上的广泛遗传验证，还需要长时间跟踪和高强度观测。由于人们面对许多新技术尚无从知晓其技术风险产生的方向或领域，以致很难对技术应用后果进行准确预测、跟踪和防范，导致风险识别的滞后性始终存在。同时，显在风险尚不能完全掌控，潜在风险更难预料。由于潜在风险难以定性，更难以量化，因而为相关技术应用带来更大的不确定性。以基因编辑为例，目前公开报道的成功案例尚不够多，即便暂时取得实验成功的案例，其结果经过广泛遗传之后，是否会出现负面效应尚未可知。在这种情况下，尝试去确切把握该项技术应用是否存在风险是非常困难的，因为很多风险难以被即时验证，而是需要海量样本、丰富数据以及长期跟踪。

(二)链式反应难以估量

一项技术如果影响有限往往相对安全和可控，若影响广泛且深刻则可能诱发复杂的链式反应。链式反应引发原因多元、交互机制复杂、线路难以阻断、影响难以估量，因而是技术应用不确定性的重要诱因。技术研究固然困难，但线路相对清晰，而技术应用的影响往往涉及因素多、牵涉面广，使得相应制度、法律和规范建设反而相对滞后。一直以来，技术研究者一般更注重技术内在机理的研究，而对其应用所产生的影响关注相对较少。这种研究模式本身就存在一些风险，如果关涉一些新兴技术，尤其是那些会对社会产生深远、广泛甚至系统影响的新兴技术时形势更加严峻，不仅可能因此导致技术研发或应用工作受阻，甚至会诱发社会领域的伦理、道德与安全风险。以颇受争议的克隆人技术为例，仅其技术自身而言，科学家主要关注如何高效、如何确保基因复刻的准确性，但对其应用效果而言，我们还需要考虑这项技术可能对人类社会产生的系统性影响，包括克隆人的身份问题、心理问题、家庭关系问题以及由此引发的伦理争议、社会公平乃至社会安全问题等(5)曾国屏：《现代科学技术与马克思主义哲学创新》，北京：人民出版社，2011年版，第107页。。这些影响可能会深刻重塑社会运行的底层逻辑，其中每一个方面的价值选择或价值判断又会对后续问题引发链式反应。

(三)社会预警难以实现

某些技术应用过程较为隐蔽，导致社会预警功能难以发挥，呈现为一旦出现问题经常为时已晚、难以收拾，因而成为引发技术应用不确定性的重要诱因。这一问题尤其集中在新兴技术，特别是一些门槛较高的高新技术。这类技术往往具有诞生时间短、知识普及性不高、自身复杂性强和掌握者群体较小等突出特点。同时，这些技术的分布也往往较为集中，多处于社会信任度较高的机构、部门、团体或个人掌控之下，不易引起较高的社会警惕。上述原因使得这类技术的应用难以引发社会及时关注和高度警觉，进而不易调动管理机关的约束力量和社会公众的监督力量。它们一旦出现风险问题，经常表现为相关结果“公开之日”已是严重后果“酿成之时”。此外，部分技术的应用后果还具有不可逆性，即存在一旦形成则无法回溯的单向发展性，又进一步加深了相关影响的深刻性。外界管理与监督力量受到抑制乃至缺位，会造成社会预警功能难以实现，最终催生技术应用不确定性，而这也是道德自律重要性凸显的重要原因。

(四)利弊共存难以抉择

技术的应用价值往往不是单一向度，而是呈现利弊共存，存在价值选择的两难性，一旦处理不当，这种两难性就会成为技术应用不确定性的重要诱因。技术的变革和社会的发展总是在人类将无知变为认知的过程中不断得以实现。在认识不断深化的过程中，人类通过应对不时出现的问题，尤其是难题，实现了科技和自身的共同发展。为了攻克难题，人类常常面临两难选择，怎样在利弊共存的局面中进行衡量与抉择，往往需要系统性的全盘考量。诸如，部分疫苗、基因编辑技术、克隆技术等前沿领域，在预防人类疾病方面存在重要机会，值得积极探索，但也必须正视其可能引发的风险与问题。同时，技术的利弊是相对公共利益而言的，对单个个体而言往往并不具有绝对的评价标准。正因如此，极少数人可能会漠视公众利益，为一己私利而将技术的不确定性风险转嫁给他人和社会。此外，这种机遇与挑战的并存性也带来机遇与挑战的不确定性。例如，人工智能技术的发展不仅会产生以机换人的就业替代效应，同时也会激发新岗催生的就业创造效应，两种效应的大小是机遇与挑战的动态博弈，在短期内就业替代效应可能更为直接和明显，但长期看却可能有显著变化(6)梅立润：《人工智能到底存在什么风险：一种类型学的划分》，《吉首大学学报(社会科学版)》2020年第2期。。

(五)主观影响难以避免

人类理性的有限性与客观世界的复杂性、技术演进的无限性之间常常出现尖锐的冲突，导致个体主观性的始终存在，同时也因此成为技术应用不确定性的重要诱因。个体主观性是一个复合性概念，一方面主观能动性是人类独有的宝贵品质，另一方面主观性也暗含着个体性，尤其是个体自由性，可能会伴生随机性、模糊性以及偶然性等问题。虽然这些问题带来的不可预知性、无意识决策或者误操作都属于小概率范畴，但却难以完全消弭。这种复杂耦合带来了人的创造性，也催生了诸多不确定性。在技术应用进程中，人的不确定性既具备优势，譬如灵活多样的应变可能会推高技术水平、促进技术优化，但也存在劣势，譬如在受到外界因素影响后可能产生的无序性即时反应。当人驾驭技术时，人的不确定性就会转移到技术上，与技术自身的不确定性产生交叠聚合，拥有的优势会彰显技术效能，而存在的劣势则会助长不确定性。因此，人的不确定性既可能是技术发展的重要动力，也可能是技术应用的制约因素。此外，个体之间也存在着或多或少的差异性，这种差异性会丰富主体样本，延展技术应用场景，但也势必会增强个体主观影响的不确定性。

三、技术应用不确定性的道德治理何以必须

今天的技术应用不仅牵扯技术选择、需求选择和利益选择，还往往涉及价值选择。立足此重要变化，兼顾技术应用不确定性的生成逻辑，道德治理应当着力承担不断消减与弱化技术应用不确定性的重要使命，在相关问题应对中更有作为。概括下来，道德治理在技术应用不确定性应对中的价值主要体现在如下几个方面：

(一)推动社会与个体价值维度的统一

面对价值选择，个体和整体的立场时常具有差异性。个体容易倾向于围绕自身利益需求进行价值考量，选择其认为最重要和最迫切的方案。例如，因为潜在的技术、伦理以及制度风险，生殖细胞基因编辑技术一直不为社会所允许，但对于一些个人来讲，这种技术则可能是一条“捷径”。就局部利益而言，个体与整体、个人与社会可能存在着不同甚至相冲突的需求，但从更高层次的意义来看，个体和整体的利益又是统一的，而且随着社会联系紧密性和技术应用深入性的发展，个体与社会的相互促进性日益明显。伴随社会交互性的日益增强，越来越少的个体可以在集体利益受损的情况下独善其身，与他人之间反而愈发呈现“唇齿相依、唇亡齿寒”的局面。在这种情况下，道德作为协同人与人之间、人与自然之间、人与社会之间的基本手段，在推动社会和个体价值维度相统一的进程中可以发挥难以替代的作用。因为无论人们对其概念作何理解、怎样定义，道德最必不可缺的元素或曰“共同的分母”便是“规范”，具有共识性和共同性(7)史少博：《论道德共同体及其价值取向》，《理论学刊》2020年第2期。。基于这种内在的聚合力，通过道德宣传、教化及引导，道德治理可以在社会共同体意识培育和个体价值观升华上发挥重要作用，从而推动社会与个体在价值上达成统一。

(二)破解道德困境对技术发展的束缚

技术应用不确定性不仅会影响人们应用这些技术，还会使这些技术的自身发展因陷于道德困境而受到束缚。道德困境的典型表现是技术应用带来的公平之争，包括区域之间的公平、群体之间的公平和代际之间的公平等等。以人类生殖细胞基因编辑技术为例，即使对该技术的风险性不再存疑，但在相应制度和保障措施完善之前，其应用成本带来的使用机会均等问题、个体是否选择使用基因编辑技术问题乃至婴儿的自我选择权利保障问题等，都蕴含极其尖锐的道德风险和公平危机。无论是公平待遇还是选择权利，都是个体主体性得以彰显的基本诉求，但在人类生殖细胞基因编辑、克隆人等技术应用试验案例中，上述基本诉求遭到严重挑战，势必会让这些技术陷入道德争议的漩涡。今天，以人工智能为代表的一大批新兴技术不断深度介入人类生活，在带来便利的同时也引发了公众焦虑，其原因正是在于人们越来越担心技术自主决策带来的道德危机问题(8)Marlies Van de Voort,Wolter Pieters,Luca Consoli,Refining the Ethics of Computer-Made Decisions：A Classification of Moral Mediation by Ubiquitous Machines，Ethics and Information Technology，2015，Vol.17，No.1，pp.41-56.。技术应用不确定性诱发对伦理和秩序的双重挑战，最终的结果往往是此项技术被限制使用或发展。这种限制一般是强制性的，表达出很强的禁令感，不仅阻碍到该技术的应用，还影响其发展。面对这些情况，道德治理在技术应用不确定性应对中可以用于相应道德困境的成因探究，包括从规则制定、边界划分以及研用分离等维度帮助破解道德困境对技术发展的束缚，从而让技术研究更自由，同时技术应用更谨慎。

(三)抑制技术实践中的个体不确定性

当人的不确定性与技术本身的不确定性产生紧密交织，解决不确定性问题就不能仅仅依靠技术维度，而还要充分考虑通过消解人的不确定性来加以实现。从抑制技术实践中个体不确定性角度来说，道德治理的出发点是技术，落脚点则是人。在技术应用实践中，基于某些技术红利，极个别人可能会对技术产生操纵欲望。他们的个人愿望或行为偏离主流，有的甚至与大众审美或价值判断完全相反，一旦具备条件，则极具破坏力。这些人的操作欲望有的来自于研究者对研究禁区的兴趣偏执，有的则是为了一己私利的铤而走险。在一些敏感技术研究中，部分研究者在知晓相关实验存在技术风险，甚至危及法律、制度、伦理和道德规范的情况下，仍然选择秘密开展，表现出了显著的私利性。还有一些人通过滥用技术或者使用违禁技术，开展类似制造致命病毒、危险生物等极端和危险的事情。虽然这些人是极少数，但他们多元化了研究者队伍的整体样态，充分体现了行为的个体不确定性。面对这种风险，道德手段可以通过制定伦理道德规范、构筑舆论监督网络和锤炼个体内心世界等途径抑制个体的操纵欲望，降低相关问题的发生概率。

(四)补强技术应用的社会公共监督力

道德是一种看似柔软但却润物无声、无处不在，且遇到燃点又能鞭辟入里的力量。在新技术不断涌现、核心技术逐渐解密、重大科学实验门槛逐渐降低的背景下，极个别个体或团体不断在技术应用上爆出挑战道德底线的行为，而且由于过程隐蔽性和结果爆发性等特征，技术应用早期风险的识别和干预相对困难。很多案例都是在主导者主动公布于众时，才如“一声惊雷”而令天下皆知。但是，由于实践不可逆，社会对待这种情况经常是“无可奈何”或“覆水难收”。面对这种状况，法律和制度的强制管控固然有效，但往往侧重于事后惩罚，而道德治理的重心则更加超前，具有更强的靶向性，能够使作用发挥得更加细腻(9)Floridi Luciano，Andrew Strait，Ethical Foresight Analysis：What it is and why it is Needed? Minds and Machines，2020，Vol.30，No.1，pp.77-97.。道德治理的效能源自个体心灵深处的自我意识，是一种主动性约束，既可以在事前预防上更有作为，又可以在过程中持续发挥作用。针对这一问题，道德治理的作用主要体现在三个方面：其一，通过道德教育，强化个体与内心信念信仰的契约关系；其二，通过道德监督，促进道德规范转化为道德效力；其三，通过倡导和推行道德关怀，建立更加公平、宽容的社会环境。道德关怀可以帮助一些在技术应用中被损伤利益的个体，如被实施基因剪辑的婴儿。这些孩子极易因为身份特殊而被过度关注，需要借助道德舆论的关怀力量对他们施以保护，使其能够正常融入社会生活。

四、技术应用不确定性的道德治理何以推进

综上所述，基于技术应用不确定性的内涵和诱因分析，道德治理在应对这一问题中可以发挥也必须发挥更加积极和重要的作用。道德治理不是为了约束技术发展，而是通过对技术发展提出更高要求，匡正技术发展中的错误趋向，从而保障技术更好更持续的发展，同时也可以为人类社会接纳该技术设置一定的缓冲。就具体实施路径来讲，针对技术应用不确定性的道德治理主要可从以下视角加以探索：

(一)明确技术应用道德治理的基本原则

自然物竞天择，而人类则容易百密一疏。当代科学技术的迅猛发展为人类带来了福祉，彰显了改造世界的积极力量，但也容易引发诸多不确定性因素。因此，对于技术应用，特别是关涉人类生产生活安全的重要技术应用，我们必须慎之又慎。但是，技术的发展不会等待道德，要求推迟技术发展直到我们拥有足够的道德理论去把握其应用也是不可行的(10)[美]约瑟夫·C.皮特：《技术思考——技术哲学的基础》，马会端、陈凡译，沈阳：辽宁人民出版社，2007年版，第122页。。因此，兼顾技术发展张力与应用安全压力，探索形成道德治理的基本共识，不仅有利于保障技术的发展和应用，同时也能确保人民安居乐业和社会安定有序。就目前而言，要形成有效可行的道德治理框架，需要遵循以下几个基本原则：

1.道德治理重在发展性

技术道德治理的出发点是化解伦理道德风险、构建健康生态和保障规范秩序，根本价值旨归是促进技术全面创新和人的自由发展。面对两难选择，人类不能被动地等待被选择，而是需要积极研究和稳妥实践，因为绝对风险为零的机遇少之又少。道德锤炼出的严格和谨慎不是将存在应用不确定性的技术束之高阁，而是要通过对技术目的、手段和方法进行积极反思，从而减少应用过程的不确定性。同时，道德治理注重通过风险评估，为技术研究和应用提供富有价值的建议和判断，助推争议问题尽快形成社会共识，最终为人类社会服务(11)Stahl Bernd Carsten，Artificial Intelligence for a Better Future：An Ecosystem Perspective on the Ethics of AI and Emerging Digital Technologies，Springer Nature，2021，pp.24-26.。例如，针对自动驾驶技术研究中的伦理争议、人工智能研究中的人工意识、生命科学研究中的克隆人技术和基因编辑技术等，社会更需要的是积极性研讨，而不是置之不理与弃之不用。因噎废食决不是道德治理技术应用不确定性的目的，恰恰相反，攻疾防患才是其价值旨归所在。

2.道德治理强调体系性

技术应用不确定性的道德治理是一套工作体系，属于集合性概念，不是简单地建立道德层面的可行或不可行的二元选择，而是要围绕技术应用不确定性治理的评估标准、前置条件、应用边界等核心问题建立目标体系、规则体系、议事机制、仲裁体系和保障体系，通过体系化、制度化和规范化对相关问题形成分类处置、制度管理、过程监督、实时响应和灵活应对。例如，对于涉及人类自身的基因技术研究，不是简单地表示支持和禁止就能够解决问题，而是要按照治疗性、增强性和颠覆性等不同维度来加以分类考量，尝试找到最合适的技术发展与应用平衡点(12)陶应时、王国豫：《人类胚胎基因编辑技术的伦理考究》，《科学技术哲学研究》2019年第1期。。

3.道德治理突出共治性

技术应用的道德治理是一项复杂的系统工程，需要多元道德治理主体的共同努力。目前，我国道德治理责任主要由政府及相关部门承担，但面对技术应用道德治理中的复杂问题和繁重任务，事实上它们力不从心。技术应用不确定性治理会涉及研究理念、应用规则、利益分配、公平公正、个体需求等多重任务、多种问题，要更好地完成道德治理任务需要创新过程中的多方行动者共担责任，以尊重和维护人权、增进社会福祉为价值旨归，构筑负责任的创新共同体(13)贾璐萌：《基于负责任创新的工程伦理探析》，《大连理工大学学报(社会科学版)》2021年第2期。。创新共同体通过将研究机构、研究者、社会组织、公民等多元主体吸纳到既有以政府为主体的治理体系中来，可以锻造行政管理、个体自律、道德教化、氛围倡导和舆论监督等手段的合力，从而进一步融合技术与道德，形成多元共治局面。

(二)细化技术应用道德治理的工作机制

相对于通过其他治理方式来消除技术应用不确定性，道德治理更具前瞻性和长效性。但道德治理不能仅停留在笼统的要求、简单的呼吁甚或单纯的口号上，而重在形成工作机制，既要兼顾技术进步，又要突出规范预设，体现辩证性。

1.构建技术应用道德伦理问题的议事机制或评估机制

道德治理需要从顶层设计推进新技术应用准则的制定，强化对新型技术研究和应用进行引导和规范。通过建立科技伦理委员会、行业或专业技术委员会、专题公众听证会、专题专家咨询会等多种形式，研究和审议技术应用中的道德争议问题，道德治理可以为技术应用不确定性的规避建立道德伦理规范和操作标准，特别是形成技术的评估依据和道德共识。

2.推进传统道德治理方式转型

传统技术治理更倾向于“技术先行”和“事后治理”，但对于发展速度快、影响范围广从而呈现显著应用不确定性的技术而言，相关治理更应该体现“道德先行”，即设置前置道德审议机制。传统道德治理更强调后果惩戒，而现代道德治理更强调事前防范，重在通过前置性道德评判达到未雨绸缪之目的。基于现代道德治理方式，在决策出台前，技术管理部门要先对该类技术进行社会价值和社会影响考量，通过召开意见征求会、听证会等渠道将人民意志体现在技术应用不确定性的治理政策之中(14)陈瑜、丁堃：《新兴技术价值前置型治理——应对新兴技术不确定性的新路径》，《自然辩证法通讯》2018年第5期。。同时，技术管理部门还要强调对科技研发与应用最前沿进行跟踪、评估和监管。

3.凸显道德治理的刚性要求

长期以来，我们对道德的职能与作用存在一些片面性误读，形成了道德似乎只能发挥向社会提供“应当”和“不应当”的建议性选择，而忽视了其兼有的命令性职能和作用。实际上，道德不仅仅可以通过倡导性方式发挥作用，还可以通过“必须、不能、不准”一类的指令或通过批评、批判等命令性方式发挥作用。尤其对于技术应用这种关乎公共利益的问题，道德治理依托的是社会公德，愈加需要体现维持公共秩序的“当然之则”，具有更高程度上的强制性意义(15)曹洪军、丁佳楠：《意识转变·物质奠基·法制保障：新时代社会公德建设的三维路径》，《中国矿业大学学报(社会科学版)》2020年第5期。。忽视道德治理的刚性要求，部分基本道德操守会陷于任由公众自由选择的伦理窘境，让道德治理体系变得形同虚设，难以发挥应有的治理效能。

4.超越道德治理的底线思维

一直以来，我们常常将符合道德伦理作为技术开发与应用的底线。坚守道德底线诚然没有问题，但面对纷繁复杂的技术应用场景，仅仅笼统地坚守底线思维是不够的，容易因为标准的僵化导致底线演变为固守陈规或一纸空文。因此，面对技术的多样性和应用的不确定性，应该注重建立更具场景化、具体化的可操作性底线标准。此外，守住底线首先需要知道底线在哪里、底线是什么、突破底线的风险在哪里、危害是什么以及远离底线需要靠什么，等等。因此，底线思维本质上不仅有坚守，更是坚守和进取的有机统一，既要坚守最低标准、作最坏的考虑，又要积极进取，作最大的努力。

(三)提升全链全员的主体道德意识

技术应用属于人类的实践活动，在遵循客观规律和逻辑的基础上，本质上蕴含着主体的价值取向和价值追求(16)易显飞：《技术创新价值取向的历史演变研究》，沈阳：东北大学出版社，2009年版，第53页。。从这一点来说，科技人员主体道德意识会直接影响着技术应用的目标追求，呈现理性观念与理性行为或非理性观念与非理性行为的内在关联性。为此，科技人员有必要对这一伴随科技活动全过程的重要品质从多个方面加以提升。

1.增强科研工作者的社会意识

“科学、技术和社会是相互依赖却又相互独立的变量”，必须相互交融互动才能呈现和谐相融的美好图景(17)Mitcham Carl，In Search of a New Relation Between Science，Technology，and Society，Technology in Society，1989，Vol.11，No.4，pp.409-417.。技术应用不确定性往往不仅涉及技术自身的应用后果，还需要考量技术应用所引起的相应社会问题，不仅要考量这项技术本身的安全性问题，还要考量技术应用中的使用权利分配问题，技术应用带来的社会公平、社会安全以及法律法规问题，等等。对于从事前沿技术、敏感技术等存在更大应用不确定性的相关人员，应该积极开展社会意识教育，让他们在专注专业技能发展的同时，充分认识自身工作和行为的社会性影响，突出科学研究的社会责任和社会义务，从而增强使命感和责任心。面对技术的迅猛发展，技术工作者必须正视自身工作可以对社会产生巨大影响的事实，也必须挑起减少可能性伤害的重大责任。

2.凸显价值选择中的社会利益

一直以来，大家更关注技术应用的直接影响，不太注重技术应用的间接影响特别是外部性影响。但是，越是对社会具有重要影响的价值选择越不能仅仅按照个人导向和自我导向，而更应该从全社会的高度加以关注。具体来说可以从三个方面入手：一是要对从事可能影响社会群体利益的科学政策入手，建立充分吸纳技术应用影响的意识；二是要从社会责任感培育上入手，要求政府等管理部门发挥教育引导作用，重视提升科技工作者的公共意识和共同体意识；三是推进相关理论研究，积极探讨其中的敏感性和争议性问题。以技术应用的价值选择权问题为例，在缺乏系统认知的情况下，公众是否真的拥有选择权？谁具有选择权？如何保障公众选择权？这些问题都需要深入研究，既要倾听民意，又要防止倒向民粹主义。

3.培养理性的技术道德观

技术应用不确定性有的源自人类对相关领域认知的限制，有的涉及道德、伦理的本源问题，还有的是由于人类对技术应用不确定性所带来利益的狂热追求。例如，在人类生殖细胞基因编辑事件中，很大一部分诱因在于对基因中心主义的盲从，从而过度重视基因的作用，而没有看到丰富多彩也是人类社会繁荣发展的重要因素。因此，缺乏理性的技术应用道德观是人类不能很好地处理技术应用不确定性的重要原因。这种情况需要从两个方面加以改进：一是从社会角度来讲，理性技术道德观培育要把“道德教育与道德治理有机统一起来”，形成培育合力(18)钱广荣：《道德治理的学理辨析》，《红旗文稿》2013年第13期。；二是从个体角度来讲，理性技术道德观培育需要科学工作者和普通公民深化自我审思，通过认真思考自身行为是否影响其他人、是否过于功利等深层次问题来形成内化力量。

(四)培育科技人员宏观道德想象力

思维如果没有宏阔的想象，就会缺乏突破性的视野和对理想境界之美的追求，容易导致过度的现实、功利和短视。道德想象力是基于道德维度，让一个人“设身处地”地为特定事宜牵涉到的其他人着想，去感受他们的处境，同时对可能引发的影响进行价值预测的能力。科技人员的道德想象力是他们从事科研活动时立足道德目标表现出来的宏观想象力，目的在于尽可能周全地考虑该科研活动产生的各种影响，特别是社会影响。培养科技人员的道德想象力，可以提升他们对科研后果的关注、对科研的全面性考虑，帮助他们以更道德、更负责任的方式开展科学研究。具体来说，科技人员的道德想象力培养需要着力从几个方面入手：

1.系统性思维

既往来看，科技人员更关心技术自身，而道德问题则主要由人文学者来加以思考。系统性思维旨在帮助科技人员形成对科学研究的系统思考，不仅关照技术研究，还要考虑技术应用和技术影响，不仅要侧重安全与高效，还要注重道德与公平。基于此，道德思维才可以更早地融入技术研究，融合“先技术研究、再道德治理”两个原本相对孤立的过程，促进技术在实现现代化、智能化发展的同时，深化其公平性、生态性和人文性转向，形成更加科学自觉的技术研究与应用范式。提高科技人员的系统性思维水平，一是要靠科技人员自身思维水平的提升；二是要靠系统化的涉及评测和质量评估，要通过内外结合的方式促进科技人员系统性思维的内化。

2.情景理解力

情景理解力旨在帮助科技人员实现对自身科学研究道德影响的在场性，防止对道德影响的认识仅局限于碎片化和抽象化理解(19)杨慧民：《科研人员的道德想象力研究》，北京：人民出版社，2014年版，第183—185页。。例如，家用机器人开发设计中可以增添人机情景思考，改进可能引发尴尬的功能设计，帮助机器人在投入使用后能自觉减少对用户原本私有空间的冲击，缓解相关风险(20)阎国华、闫晨：《家庭泛用型智能机器人的安全风险研究》，《东北大学学报(社会科学版)》2018年第3期。。反之，缺乏情景化理解会把道德想象停留在空洞的、超越于具体案例之上的纯粹理念，以至于常把道德治理挂在嘴边，却不知与具体案例该如何融合、如何实践。培育科技人员的情景理解力，一是要增强科技人员的主体想象力，尽可能地在技术设计与开发中融入系统思维和辩证思维；二是要及时倾听技术使用者的反馈，立足需求侧不断改进供给侧；三是要主动作为，通过换位思考、主动体验等方式不断补足自己作为技术应用者的主观体验。

3.善良的情感

防控相对专业和潜在的技术应用风险，不仅需要持续加强监管，还需要帮助科技人员建立向善行善的价值指引，通过帮助他们塑造科学的道德观和科技观，以及强化责任担当来达到深刻、持久的保障效果。内在的善良情感是开展道德想象的原始动力，是为他人、为社会设身处地进行思考的道德想象力之基础。唯心有大我才会胸怀宽广，常心系家国方能坚守正道。当然，内在的善不仅仅是来自于个体天性，更需要在实践中被充分理解和强化(21)何菁、董群：《场景叙事——工程伦理研究的新视角》，《哲学动态》2012第12期。。因此，培养广大科技人员积极向善的价值取向，一方面要向他们积极宣传求真、向善和致美的科学精神，另一方面要帮助他们充分认识其自身担负的崇高使命和社会责任。

4.道德物化能力

道德物化是让技术伦理展现影响力的新思路，即通过一定的技术设计，将道德理念“嵌入”技术之中，为技术应用形成道德引导，从而起到规范性作用。伴随道德物化的价值彰显，道德物化能力正在成为科技人员道德想象力的重要组成部分，譬如如何能在技术应用中形成“劝导性”“反思性”或“价值敏感性”设计等问题都应该成为科技人员素质提升的应有之义(22)张卫：《道德物化：技术伦理的新思路》，《中国社会科学报》2016年1月19日。。道德物化侧重于从外部入手，主要关注如何将道德观念外化到人工物的设计之中，而道德教化则侧重于从内部入手，主要关注如何使道德观念内化于个体心灵。在人工物不断创新、人类实践活动日益丰富的今天，道德教化与道德物化可谓里应外合、相得益彰，既可以反映道德实践的主观性追求，又可以彰显道德的客观性要求。因此，科技人员要构建人、技术、世界之间相互影响的整体观念，充分认识道德在技术发展与技术应用的重要作用。

五、余论

技术的不断发展日益深刻地影响人类生活，几乎所有的人类认知活动、实践过程和行为后果都已经或正在被重新刻画。人类在社会生活中不仅仅需要关注外在世界的“实然”性，包括其是什么、为什么，还必须关注外在世界的“应然”性，即我们能做什么、该做什么，并且对于不能做什么、不应做什么要有清醒认识，并将这种认识贯穿技术研究和应用的全过程。受限于人类认知的渐进性和技术本身的复杂性乃至偶然性，技术在实现长足发展的同时也不断催生了一些应用后果的不确定性。鉴于研究和应用的基本逻辑，这些技术应用不确定性的主要诱因包括潜在风险难以识别、链式反应难以估量、社会预警难以实现、利弊共存难以抉择和主观影响难以避免等典型问题，抑或是这些问题综合作用的结果。技术应用不确定性的出现要求技术研究与应用不仅要符合客观实际和内在规律，还要充分考量其作为社会活动的适当性，这就需要道德治理的积极参与，让道德与技术同向同行、协同发展。在技术应用不确定性应对中，道德治理可以起到推动社会与个体价值维度的统一、破解道德困境对技术发展的束缚、抑制技术实践中的个体不确定性以及补强技术应用的社会公共监督力等显著作用，具有传统技术治理所不具有的功能和优势。为了更好地促进技术自身发展、服务人类福祉，针对技术应用不确定性的道德治理可以通过明确技术道德治理的基本原则、细化技术道德治理的工作机制、提升全链全员的主体道德意识和培育科技人员宏观道德想象力加以积极推进。只有这样，技术治理才能更好地融合技术、道德以及法律的各自治理优势，更好地统筹各治理主体的治理效能，形成科学民主、覆盖全面、刚柔并济、导向明确、张弛有度、规范有序和协同一致的现代技术治理体系。