前瞻性技术伦理治理研究

[摘 要] 新技术引入社会后，在为人们带来福利的同时也时常引起一些伦理问题，而且根据“穆尔律令”，随着新技术日益广泛的应用，它们的伦理问题还将增加。实际上，新技术的伦理问题在其研发阶段就蕴含了。为了使输入到社会的新技术符合社会的伦理价值，我们可以在研发阶段对其进行前瞻性的伦理治理。工程师、科学家、管理者和政府官员是前瞻性技术伦理治理的主体，他们可以按照“两阶段”模式进行治理。经过前瞻性的伦理治理，输入社会的新技术将达到伦理可接受和社会满意。

[关键词] 前瞻性； 技术治理； 伦理治理； “穆尔律令”

[中图分类号] B829 [文献标识码] A [文章编号] 1673-8616（2018）03-0023-07

新技术引入社会后将产生双重效应：一方面，它将给人们提供新的手段，带来新的利益；另一方面，它又时常引起一些伦理问题，甚至引起“先前不知道的伦理问题” [1 ]。这些伦理问题实际上在新技术引入社会之前，即在新技术的研发阶段就蕴含了，只不过是新技术被应用到社会后，伦理问题逐渐显现出来。因此，需要对技术进行前瞻性的伦理治理，以使得向社会输入的新技术达到伦理可接受和社会满意。

一、从荷兰智能电表事件到“穆尔律令”

随着信息技术的发展，智能电表应运而生。传统电表只显示用户累计用电量，而且需要电力部门人员上门抄录表数。与传统电表相比，一方面智能电表对用电量的统计更为准确，另一方面它还可以显示用户每小时，甚至每一刻钟的电力使用量。它还实现了与电力部门数据的双向传输，省去了抄表员上门抄录表数的工序。2007年，荷兰政府打算将全国700万户居民的传统电表更换为智能电表，并在2013年之前完成。但令人意想不到的是，智能电表的更换遭到了荷兰民众日益高涨的反对。他们认为，智能电表可以反映出用户的用电习惯，乃至用户某时某刻正在家中做什么事情，这严重侵犯了他们的隐私。这些数据一旦被不法之徒获取，就可能对用户隐私造成很大的威胁 [2 ]。该事件启示我们，如果相关实践者在智能电表这一新技术引入社会之前，即在智能电表这一新技术的研发阶段，就前瞻性地对其进行伦理治理，使其具有符合人们伦理观念的价值属性，那么就可以避免这一事件的发生。

一项新技术引入社会后时常会引起不期望的伦理问题，而且随着该项新技术应用范围的扩大，它引起的伦理问题还可能会增加。美国学者穆尔（James H. Moor）指出，技术日益广泛的应用增加了它的社会影响，与此同时，它的伦理问题也相应地增加了 [3 ]。这就是富有影响力的“穆尔律令”（Moor's Law）。穆尔系统地研究了新技术在社会中的发展过程，他把这一过程分为前后相继的三个阶段：引入阶段（the introduction stage）、渗透阶段（the permeation stage）和权威阶段（the power stage） [3 ]。在引入阶段，新技术刚刚引入社会，“很少的人知道和使用它” [4 ]，社会融入的程度还较低，对社会的影响也较小。在渗透阶段，越来越多人使用该技术，技术使用者的数量增加了。在这一阶段，技术的社会融入程度达到了中等水平，技术对社会的影响也变得明显了 [3 ]。在权威阶段，这一技术被广泛地应用，在社会上的地位牢牢地确立起来，众多的人受到它直接或间接的影响，对社会产生的影响重大。穆尔详细分析了新技术的发展过程（三个阶段）与伦理问题的关系，从而提出了“穆尔律令”，即技术日益广泛的应用增加了它的社会影响，与此同时，它的伦理问题也相应地增加了 [3 ]。这一现象之所以会产生，一方面是因为新技术影响越来越多的人，另一方面是因为新技术为人们提供了许多新的行动机会 [3 ]。为了减少或避免新技术引入社会后引起伦理问题（包括随着新技术社会影响的扩大而增加的伦理问题），我们需要对新技术进行前瞻性的伦理治理。

二、面向新技术的前瞻性技术伦理治理

在上文中，我们通过讨论荷兰智能电表事件和“穆尔律令”揭示了前瞻性技术伦理治理的必要性。那么，究竟什么是前瞻性技术伦理治理呢？

前瞻性技术伦理治理是指这样的技术治理活动：它在技术输入社会之前，即在技术的研发阶段，就提前识别出技术的伦理问题，并据此采取相应的处理措施，使未来输入社会的技术达到伦理可接受和社会满意。前瞻性技术伦理治理针对的是尚在研发中的新技术。“旧技术”早已被引入社会，因此对于它们来说，不存在前瞻性伦理治理问题。对于已经应用到社会的新技术来说，也不存在前瞻性伦理治理问题，因为它们已经引入到社会中了。论述至此，有人可能会在心中产生疑问：“对尚在研发中的新技术进行前瞻性的伦理治理何以可能？它们还没有在社会应用，它们的伦理问题还没有暴露出来。”虽然尚在研发中的新技术的伦理问题还没有暴露出来，但是我们可以通过预测提前将它们识别出來。前瞻性技术伦理治理就是要运用预测的方法前瞻性地研究尚在研发中的新技术潜在的伦理问题，进而提前对其进行伦理治理。如何进行预测？本文将在第四部分详细阐述。

前瞻性技术伦理治理的治理优势集中体现在三个方面：一是在问题发生之前就提前进行治理，避免问题的出现，而且治理相对容易。在当代，大量的新技术被发明出来，被投入社会。这些新技术一方面给人们带来了福利，而另一方面又时常引发一些伦理问题，有些伦理问题甚至是我们之前未曾遇到过的。前瞻性技术伦理治理可以在新技术输入社会之前，即在蕴含的伦理问题发生之前，就在新技术的研发阶段提前把这些伦理问题识别出来，并妥善地处理掉，进而使输入社会的新技术在道德上符合社会要求。同时，前瞻性技术伦理治理相对容易，因为此时新技术尚处于研发阶段，还没有引入社会，它们还没有成为经济和社会结构的一部分。如果新技术经过渗透阶段在社会上根深蒂固了，已成为经济和社会结构的一部分，那么再对它们进行伦理治理，就相当困难了。二是前瞻性技术伦理治理将指导人们为应对可能出现的技术伦理问题提前做好准备，避免或最大限度地减少危害。一些新技术蕴含的伦理问题在研发阶段难以消除。这些技术，社会需要且受人们欢迎，需要引入社会。通常，人们对这些新技术可能带来的伦理问题是没有准备的或者是准备不充分的，这就容易产生危害。前瞻性技术伦理治理将能指导人们提前为应对这些新技术可能带来的伦理问题做好准备，以避免危害或将危害降到最低程度。打车软件这一新技术在为乘客提供打车方便的同时，也为不法分子抢劫和绑架提供了有利的可乘之机。这一伦理问题在技术研发阶段难以处理掉。如果人们对这一伦理问题没有准备或准备不充分，就可能发生危险。2016年，南京一位市民在乘坐网约车时，就遭受到不法司机的抢劫和绑架 [5 ]。受害者对这一伦理问题没有准备或准备不充分是这件事情发生的一个原因。运用前瞻性技术伦理治理，可以在打车软件应用社会之前，就温馨地提示人们：第一，上网约车时，尽量不要坐在副驾驶上，尤其是独自乘车的女性；第二，上网约车后，应和亲朋好友联系，将自己所坐车辆的车牌号、目的地、预计到达时间等告知对方。这样就指导人们为应对这一伦理问题做好准备，进而有利于避免此件事情的发生。三是通过前瞻性技术伦理治理，可以减少或避免资金的浪费。新技术的研发需要花费大量的经费，新技术的生产同样也需要投入大笔的资金。新技术引入社会后因为存在伦理问题，而不被使用者（消费者）接受或被国家有关部门宣布禁用，那么就将造成先前投入资金的浪费。前瞻性技术伦理治理可以减少或避免这种资金的浪费。

三、前瞻性技术伦理治理的主体

谁来对尚在研发中的新技术进行前瞻性的伦理治理？是设计者、使用者，还是其他人？通过这一部分的分析，前瞻性技术伦理治理的主体将被揭示出来。

技术并不是自主发展的，它是由社会建构的。平奇（Trevor Pinch）、比克（Wiebe Bijker）和休斯（Thomas P. Hughes）等学者的技术社会建构论就说明了这一点。既然技术是由社会建构的，那么人就可以对技术进行伦理干预（治理），以让技术塑造更好的生活。技术的社会建构性为对技术进行伦理干预（治理）奠定了本体论的基础，使对技术的伦理干预（治理）成为可能。

具体地说，工程师、科学家、管理者、使用者、政府官员和相关咨询学者等行动者共同建构了技术。在这些行动者中，谁能对技术进行前瞻性的伦理治理（干预）呢？能够对技术进行前瞻性伦理治理的必须同时具备两个条件：第一，具有实践推理（practical reason）能力 [6 ]，能够反思技术的行为，预见技术未来可能带来的影响；第二，能够根据技术行为的反思和技术影响的预见，在技术输入社会之前，即在技术的研发阶段，实际地调整技术。使用者具有实践推理能力，能够反思技术的行为，预见技术未來可能的影响，但是他们却不能根据这种反思和预见实际地调整技术。使用者对技术的发明、调整和改进具有重要的作用，他们也是技术建构中“磋商”的一员。这里说“不能实际地调整技术”并不是否定使用者对技术建构的重要作用。另外，当使用者使用该技术时，该技术已经输入到社会中，因此即使使用者能调整技术也不可能在技术输入社会之前做这件事。相关咨询学者，如伦理学家、社会学家等，也只具备第一项条件，不具备第二项条件。虽然他们可以在技术输入社会之前就介入进来，发表看法，通过这些看法影响工程师、科学家、管理者和政府官员的决策，但是他们不能够实际地调整技术。工程师、科学家、管理者和政府官员，他们同时具备对技术进行前瞻性伦理治理的两项条件：一是他们有实践推理能力，能够对技术行为进行反思和预测技术未来可能产生的后果；二是他们能够在技术输入社会之前，即在研发阶段，根据这些反思和预测做出决策，实际地调整和改进技术，以使输入到社会的技术达到伦理可接受和社会满意。既然如此，工程师、科学家、管理者和政府官员能够对技术进行前瞻性地伦理治理（干预），他们是前瞻性技术伦理治理的主体。

四、前瞻性技术伦理治理的途径

前文已经阐明了前瞻性技术伦理治理的主体，本部分将集中论述这些主体应如何对尚在研发阶段的新技术进行前瞻性的伦理治理这一问题，为工程师、科学家、管理者和政府官员这些主体进行前瞻性伦理治理提供参考。

前瞻性技术伦理治理包括前后相连的两个阶段：一是预测阶段，二是改进阶段。对尚在研发中的新技术进行前瞻性伦理治理的前提就是要预测出该技术未来可能带来的后果，因此前瞻性技术伦理治理的第一阶段就是预测。通过预测，提前预判尚在研发中的新技术未来可能产生的伦理后果。道德想象力法、建设性技术评估法、ETICA项目法和行为科学法是四种有效的预测方法。

道德想象力是人的一个重要能力，它是指人类个体超越自我、超越既定情景对行为进行想象和做出道德判断的能力。道德想象力的一个突出价值就是我们可以利用它进行预测。我们可以利用道德想象力通过想象推演、预判行为可能产生的伦理问题。在前瞻性技术伦理治理中，各位治理主体可以运用自己的道德想象力对尚在研发中的新技术未来引入社会后可能带来的伦理问题进行预测。道德想象力法是前瞻性技术伦理治理中一种简便而实用的方法。

建设性技术评估（CTA）兴起于20世纪80年代 [7 ]，它一方面继承了传统的技术评估（TA），要评估技术在经济、社会和环境等方面的影响，另一方面又超越了传统的技术评估，主张听取利益相关者的建设性的评价意见 [6 ]。通过建设性技术评估，许多不同的利益相关者参与到技术的评估过程之中 [8 ]。这样，对新技术输入社会后可能引起的伦理问题的预测就不再只是依靠前瞻性技术治理主体了，而是扩大为群策群力了，由此将大大提高伦理问题预测的完备性和准确性。可以通过专题研讨会、共识会议等方式让诸多利益相关者参与到建设性技术评估中来。通过建设性技术评估法，我们可以预测出尚在研发中的新技术输入社会后可能带来的伦理问题。

“尚在研发中的信息和通讯技术应用的伦理问题”（Ethical Issues of Emerging ICT Applications，简称ETICA）是一个欧盟研究项目 [9 ]。它由英国斯塔尔（Bernd Carsten Stahl）教授等人承担。ETICA 项目“旨在提供更广泛的关于尚在研发中的技术后果的认识” [10 ]，同时它也为我们提供了一种有效的预测方法，即ETICA 项目预测法。ETICA 项目预测法可分为三步：第一步研究出尚在研发中的新技术的特征；第二步运用文献计量分析，识别出值得考虑的伦理问题；第三步检查尚在研发中的新技术的特征是否可能引起第二步识别出来的伦理问题（每项特征都要检查）。这样就能预测出尚在研发中的新技术未来引入社会后可能产生的伦理后果。

行为科学法实际上就是运用行为科学的实证方法，研究尚在研发中的新技术未来引入社会后可能对人的行为造成的伦理影响。行为科学的实证方法有实地试验、计算机模拟、“第二人生” （Second Life）里的实验等。“第二人生”是美国开发的一个著名的虚拟世界，同时它也是一款深受人们喜爱的网络游戏，有的学者运用它研究“旁观者效应” [6 ]。包括“第二人生”里的实验在内的行为科学的实证方法将帮助我们在经验层面洞察和判断尚在研发中的新技术未来引入社会后可能产生的影响。

以上四种预测方法各有优点和弱点，在治理工作中，我们可以根据实际情况组合使用。预测出尚在研发中的新技术未来输入社会后可能带来的伦理影响是前瞻性技术治理第一阶段的工作。接下来，工程师、科学家、管理者和政府官员要根据预测结果，采取相应的治理措施。由此，治理进入第二阶段——改进阶段。

如果预测的结果，即尚在研发中的新技术未来引入社会后可能产生的伦理影响，符合法律规约和伦理规范，那么可以准许这项正在研发中的新技术继续研发并在未来输入社会。如果预测尚在研发中的新技术未来引入社会后可能产生的伦理影响与法律规约和伦理价值冲突，伦理上不可接受，同时至少目前又无法进一步采取措施解决这种冲突，那么这项正在研发中的新技术就应当被禁止。如果预测尚在研发中的新技术未来引入社会后会产生一些伦理问题，但这些伦理问题可以通过调整、改进技术解决，那么相关技术伦理治理主体就应该积极调整、改进技术设计，以解决这些潜在的伦理问题。

经过上述的伦理治理，尚在研发中的新技术在未来输入社会时就可以达到伦理可接受和社会满意。

五、结 论

新技术引入社会是人类社会运行的常态，新技术引入社会后将产生双重效应，它们在为人们带来福利的同时，也时常产生一些伦理问题。新技术在社会中表现出来的伦理问题其实在技术的研发阶段就潜在地存在着，只是在新技术应用社会后，伦理问题逐渐显现出来。因此，我们应该在技术的研发阶段就开展前瞻性的伦理治理，使输入社会的新技术能够符合伦理价值，达到社会满意。工程师、科学家、管理者和政府官员具备从事前瞻性技术伦理治理的条件，是前瞻性技术伦理治理的主体。他们应切实承担起技术前瞻性伦理治理的责任，克服过多关注技术进步、忽视技术社会属性的“现代化偏见” [11 ]，让技术塑造更好的生活，塑造更好的未来。

参考文献：

[1]顾世春.柏瑞预知性技术伦理研究[J].自然辩证法研究，2017，33（1）：20.

[2]胡明艳.科学技术创新需要“负责任”[N].学习时报，2015-03-16（7）.

[3]James H. Moor. Why we need better ethics for emerging technologies[J].Ethics and Information Technology，2005，7（3）.

[4]Philip A. E. Brey. Anticipating Ethical Issues in Emerging IT[J]. Ethics and Information Technology，2012，14（4）：306.

[5]许震宁.女孩打车遇劫获救记[N].南京日报，2016-12-17（3）.

[6]顾世春.瓦尔博斯前瞻性技术责任伦理研究[J].自然辩证法研究，2015，31（8）.

[7]陈凡，贾璐萌.技术控制困境的伦理分析——解决科林格里奇困境的伦理进路[J].大连理工大学学报（社科版），2016，37（1）：80.

[8]Peter - Paul Verbeek . Moralizing Technology ： Understanding and Designing the Morality of Things [M]. Chicago and London： The University of Chicago Press. 2011：103.

[9]Bernd Carsten Stahl， Philippe Goujon， Catherine Flick，etc. Identifying the Ethics of Emer-ging Information and Communication Technologies： An Essay on Issues， Concepts and Method[J].International Journal of Technoethics，2010，1（4）：21.

[10]Bernd Carsten Stahl. IT for a better future： how to integrate ethics， politics and innovation[J]. Journal of Information，Communication & Ethics in Society，2011，9（3）：141.

[11]梅亮，陳劲，李福嘉.负责任创新：内涵辨析与启示[J].自然辩证法研究，2017，33（2）：51.

[责任编辑：杨 彧]

Abstract：New technologies bring benefits to people as well as cause ethical problems. According to Moor's Law， as the growing widespread use of technologies， their related ethical problems will also on the rise. In fact， the ethical problems of technologies are germinated in the R &D stage. In order to make new technologies in line with the ethical value of society， we can have a forward-looking ethical governance of the technology in its R &D stage. Engineers， scientists， governors and government officials are the mainstay of forward-looking technological ethical governance. They can govern in accordance with the "two-phase" model. With the forward-looking ethical governance， new technologies to be applied in society will reach an ethical acceptable level and meet the need of social satisfaction.

Key words： Forward-looking； Technology Governance； Ethical Governance； Moor's Law