高科技时代的人类自律及其构建

江 畅

(湖北大学 哲学学院， 湖北 武汉 430062)

从科学技术的角度看，人类今天确实已经进入了一个新时代。这个时代究竟自什么时间开始并无定论。按照《人类简史》作者尤瓦尔·赫拉利的看法，从500年前发生的科学革命开始，人类进入了一个与以往历史不同的全新时代，而自21世纪曙光初露时起，人类进入了用智能设计(intelligent design)取代自然演化的自然选择的时代，在这个时代，作为智人的人类正在走向末日(1)参见尤瓦尔·赫拉利：《人类简史：从动物到上帝》，林俊宏译，北京：中信出版社，2014年，第4、389页。。一些人工智能专家从人工智能特别是机器人的角度印证了这一点。他们有意无意释放一些危言耸听的信号，似乎机器人战胜人类、统治人类、甚至取代人类成为新人类是必然趋势。根据这些看法，那种不同于自然选择的智人的智能设计的超人似乎就是尼采所说的“超人”，人类不过是“末人”，必将会被“超人”所取代。总之，“信息技术和生物技术的双重革命，让人类这个物种遭遇了有史以来最大的挑战”(2)尤瓦尔·赫拉利：《今日简史：人类命运大议题》，林俊宏译，北京：中信出版社，2018年，第VIII页。。面对这种时代挑战，本文提出人类虽然不可能被作为自己造物的所谓“超人”所战胜、所替代，但完全有可能被“超人”所奴役(即所谓异化)、所伤害、所毁灭。在高科技挑战面前，人类最需要的是自律。自律是人类永远不会被自己的造物所毁灭的法宝。

一、高科技对人类自信的挑战

第二次世界大战结束以来的高科技迅猛发展，深刻改变了人类生活和社会面貌，而急剧增强的巨大高科技力量已经在挑战人类的尊严，并进而挑战人类生物学意义存在的底线。今天，人类的自卑感、无力感、忧虑感甚至末日感空前加重，人类的自信心面临着前所未有的挑战。

尤瓦尔·赫拉利认为，在人类历史上有三次重要的革命：大约7万年前发生的“认知革命”，它让历史正式启动；大约1.2万年前发生的“农业革命”，它让历史加速发展；大约500年前发生的“科学革命”，它让历史划下句点而另创新局(3)尤瓦尔·赫拉利：《人类简史：从动物到上帝》，第3-4页。。如果只考虑500年来的历史，我们可以把它再划分为四个时代：一是以哥白尼的日心说为标志的时代(16世纪中叶到18世纪中叶)；二是以牛顿的经典力学为标志的时代(18世纪中叶至19世纪末)；三是以爱因斯坦相对论和量子力学为标志的时代(19世纪末至20世纪中叶)；四是以迅速发展的信息技术、生物技术为主要标志的当代(20世纪中叶至今)。我们今天正处于科学革命后的第四个时代即当代，这是一个现代科技迅速发展的高科技时代(4)关于20世纪中叶以来的时代尚未有一个得到公认的名称。当前，由于信息技术突飞猛进发展，人们常常把它称为信息化时代，更把最近的时代称为“大数据时代”、“人工智能时代”、“机器人时代”。但是，上述这些语词并不能表征科技全面而急剧发展的当代。虽然“高科技”一词并无明确的界定，但它涵盖的范围更广泛，且有高度发展之义，所以本文暂且用这个词表示这个时代。。在尤瓦尔·赫拉利看来，高智能时代是作为目前世界上存在的唯一人类的智人结束自己的历史而进入新的人类的时代。

尤瓦尔·赫拉利断定，从大约200万年前到大约1万年前，整个世界同时存在多种不同人种，至少有六种不同的人，但由于种种原因，10万年前出现的“智人”在约7万年前走出非洲，很快席卷了整个欧亚大陆，最终成了人类最后的物种。在他看来，大约在135亿年前发生的“大爆炸”后形成的宇宙，其演化经历了一个从物理学走向化学、走向生物学，然后走向历史学的过程。但无论是物理作用、化学反应，或是生物的自然选择，都对“智人”和其他一切生物一视同仁。“智人”在自然选择方面的发挥空间虽然远大于其他生物，但仍然十分有限，无法打破生物因素的限制。然而，自20世纪末21世纪初开始，“智人”开始打破有史以来生物因素的限制，用智能设计的法则取代自然选择的法则，而自然选择是此前近40万年地球上每一种生物的演化都依循的法则。于是，拥有40亿年的自然选择系统面临着一项完全不同的挑战。

尤瓦尔·赫拉利认为，有三种方式可能让智能设计取代自然选择：一是生物工程。它指的是人类刻意在生物层面进行的干预行为，目的在于改变生物体的外形、能力、需要或欲望，以实现此预设的文化概念，例如，科学家在一只老鼠背上植入牛软骨细胞，让它长出人类耳朵的形态。二是仿生工程。它可以将有机组织和无机组织结合起来，创造出“生化人”，让一些无机组织与身体结合而不再分开，改变我们的能力、欲望、个性以及身份认同。例如，可以让生化手臂有着远大于人类手臂的力量，而且可以每隔几年就更新换代，也能够脱离身体远距离操作。三是无机生命工程。它可以创造出完全无机的生命，其最典型的例子就是能够自行独立演化的计算机程序和计算机病毒。尤瓦尔·赫拉利说，1818年，英国小说家玛丽·雪莱写了《科学怪人》一书，讲的是一个科学家创造出了人造生物，但失去控制，造成一片混乱。然而，今天人类很难接受的一个事实是，科学家不仅能够改造身体，也能改造心脏，未来创造出来的科学怪人比人类优秀不知凡几，“他们看着我们，就像是我们看尼安德特人(5)尼安德特人，因其化石发现于德国尼安德特山谷而得名，从12万年前开始他们统治着整个欧洲、亚洲西部以及非洲北部，但在两万四千年前却消失了。一样带着一种轻蔑和不屑”(6)参见尤瓦尔·赫拉利：《人类简史：从动物到上帝》，第二十章：智人末日。。显然，不管通过上述哪一种方式制造出来的“机器怪人”，他们都会比“智人”的身心强大得多，“智人”在它们面前只会感到卑微、畏琐、可怜。

尤瓦尔·赫拉利指出：“在全球各地的实验室里，科学家正在改造各种生物。他们打破自然选择的法则而丝毫未受惩罚，就连生物最基本的原始特征也完全不看在眼里。”(7)尤瓦尔·赫拉利：《人类简史：从动物到上帝》，第394页。在尤瓦尔·赫拉利看来，上述改变生命法则三种方式中的任何一种方式都是要彻底改变生命的游戏规则，都会导致“智人”的末日。不过，人们的注意力由以前对生物工程和仿生工程转向了来势更凶猛的人工智能和机器人发展。虽然生物工程和仿生工程仍然在从事着日益深化和扩展的智能设计，但人们的注意力太有限了，只能关切那些对自身威胁最大的力量。更为重要的是，生物工程也好，仿生工程也好，它们往往只能部分地、逐渐地改变人类，而机器人不仅像真人那样和我们一起生活在世界上，而且可以不断地被批量生产，因而是一种更可怕的力量。

机器人的实质内容是人工智能，但机器人不只是人工智能的容器，它还武装了人的体能无法与之相提并论的机器。机器人确实有着人类无法比拟的强大能力，仅就其人工智能而言，它拥有人脑无法比拟的强大优势。比如，人脑神经元的运行频率最快是200赫兹，而今天的微处理器就能以2G赫兹的频率运行，是神经元1000万倍；大脑的内部信息传播速度最快只有每秒120米，电脑的信息传播速度是光速，差了好几个数量级。何况人脑的大小已经固定在颅骨内，而电脑的大小不受限制，我国的超级计算机天河二号，光是占地面积就有720平方米。有人据此预计，一旦人类给人工智能赋予了思考能力与抽象思维能力等，世界将会迎来智慧大爆发，那时的人类可以借助电脑解决人脑几千年来无法解决的问题，完成人类智能力不能及的艰巨任务。于是，有人据此推断，虽然我们不能断定，随着超人工智能时代的到来，人类是否会生存下来，但是无论如何，世界将会变得完全不一样。有人甚至认为人工智能很可能导致人类的永生或灭绝(8)《终于有人把“人工智能”讲明白是怎么回事了！》，2015年2月12日，http:www.360doc.comcontent1502122118791455_44822 0606.shtml。。美国麻省理工学院的埃里克·布莱恩约弗森(Erik Brynjolfsson)教授称机器人时代的到来为“第二次机器革命”，“这个时代不是以增强肌肉力量的机器为特征的，相反，它是以增强人类思维能力为特征的”(9)参见埃里克·布莱恩约弗森、安德鲁·麦卡菲：《第二次机器革命——数字化技术将如何改变我们的经济与社会》，蒋永军译，北京：中信出版社，2016年，第17页。。海量的智能机器和互联互通的智慧大脑结合在一起，将彻底颠覆之前的世界。

人工智能专家的预测似乎是有充分根据的。有专家认为，人工智能发展可能会经历三个阶段：弱人工智能，即擅长于单个方面的人工智能，比如能战胜象棋冠军的人工智能；强人工智能，即人类级别的人工智能，各方面都能和人类比肩；超人工智能，即在各方面都比人类智能强且可以达到强万亿倍的人工智能。这种超级人工智能可能就是超越“智人”并且统治甚至毁灭“智人”的“超人”。牛津大学人类未来研究院院长尼克·博斯特罗姆(Nick Bostroom)认为，超人工智能“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能”。他预测，超级人工智能以三种方式工作：(1)先知模式：能准确回答几乎所有问题，包括对人类来说很困难的问题。比如：“如何造一个更好的汽车引擎？”(2)精灵模式：能够执行任何高级指令。比如用分子组合器造一个更好的汽车引擎出来。(3)独立意志模式：能够执行开放式任务，能在世界里自由活动，可以自己做决定。比如，开发出比汽车更快、更便宜、更安全的交通工具。人工智能的发展方向是从弱人工智能通过强人工智能最终达到超人工智能。所以有学者认为，“新机器既是人类的帮手，也是人类的对手。人类将日益面临与新机器的残酷竞争”(10)埃里克·布莱恩约弗森、安德鲁·麦卡菲：《第二次机器革命——数字化技术将如何改变我们的经济与社会》，第3页。。

现在的弱人工智能系统并不吓人，最糟糕的情况不过是程序出故障造成停电、核电站故障、金融市场崩盘等等。现在的单项人工智能不具有威胁人类生存的能力，但它正在快速地向着更加庞大和复杂的人工智能发展。每一个弱人工智能的创新，都在给通往总体人工智能和超级人工智能添砖加瓦。亚伦·萨恩斯(Aaron Saenz)认为，现在的弱人工智能，就是地球早期泥中的氨基酸——没有动静的物质，突然之间就组成了生命。美国著名发明家、预言家、谷歌技术总监雷·科兹威尔(Ray Kurzweil)认为，2000年开始只要花14年就能达成整个20世纪一百年的进步，而之后2014年开始只要花7年(到2021年)，就能达到又一个20世纪一百年的进步。几十年之后，我们每年都能达成好几次相当于整个20世纪的发展，再往后，说不定每个月都能达成一次。按照加速回报定律(11)加速回报定律(Law of Accelerating Returns)是雷·科兹威尔提出来的。根据该理论，技术改良以过去的成就为基础，每十年革新的步调会加倍。，科兹威尔认为人类在21世纪的进步将是20世纪的1000倍。如果科兹威尔的预言是正确的，那么我们可以预计，超人工智能时代为期不会很远，而这意味着人工智能比人类智能强万亿倍！按照专家预测的人工智能发展的三个阶段，人类目前仅处于第一阶段。机器人在这个阶段尚未对人类生存明确提出挑战，但它迅猛发展的态势正在动摇人类对自己的信心，许多人已经对人类的前途感到迷茫和担忧。近年来，人工智能特别是机器人在越来越广泛的领域得到了应用，各国政府采取各种政策措施加大对机器人研发的投入，展开了机器人研发制造竞赛，一些政府机构、社会组织和媒体也通过比赛、会议、博览等方式推波助澜。所有这些政策措施，不仅使机器人产业发展极快，也使机器人变得越来越神乎其神，似乎大有取代人类之势。

在人类进化的250多万年间，很长时期人类是非常不自信的，人类完全受制于大自然，“在整整200万年期间，人类一直就只是一种弱小、边缘的生物”(12)尤瓦尔·赫拉利：《人类简史：从动物到上帝》，第11页。。经过漫长的进化之路，人类进入到了文明社会。自那时起，人类开始有了一些自信，出现了人“最为天下贵”的信念(荀子)和人在上帝之下万物之上的观念(基督教)，甚至有了“人定胜天”、“制天命而用之”的信心。到了近代，在科技发展特别是工业革命的推动下，各种延长人四肢和体能的机器的出现一度打击了人类的自信。对于这种情况，马克思曾指出，“对象化在机器体系中的价值表现为这样一个前提，同它相比，单个劳动能力创造价值的力量作为无限小的量而趋于消失”(13)《马克思恩格斯全集》第31卷，北京：人民出版社，1998年，第92页。。第二次世界大战后，这种情况发生了改变。人类注意到，任何机器都是人控制的，为人所用，是人类的仆人，因而人类对机器的自信大大增强。然而，高科技的出现，特别是人工智能和机器相结合的机器人的出现，使人类意识到，机器可以不受人控制，机器可以受机器控制，而机器控制机器的力量远远超过了人。更令人忧心的是，机器人越来越类人化、仿真化。类人机器人“索菲亚”的问世及被授予公民身份，使人类预感到，将来会有越来越多的类人机器人活动在人群之间，他们各个方面的能力(无论是体能还是智能)都远在人之上，这将是多么可怕的局面！即使它们不伤害人，甚至关怀人、帮助人，人类的自尊心和自信心也根本无法接受。德国当代哲学家京特·安德斯曾明确表示，虽然“创造是人的天性”，但当人类在其造物面前常常会有“普罗米修斯的羞愧”，一如在机器面前，这种“创造与被创造关系的倒置”会是对人类自信最沉重的打击！(14)京特·安德斯：《过时的人：论第二次工业革命时期人的灵魂》，范捷平译，上海：上海译文出版社，2010年，第3-6页。更不用说它们可能从人类这里接受自私、贪婪、无情、冷酷、残忍、侵略等恶性了。

弗洛伊德在1917年写的《精神分析的难题》中说，有三次革命给予人类对其自身所具有的那喀索斯主义观念以沉重的打击。第一次革命是哥白尼的革命，他证明地球比太阳小并围绕太阳转动；第二次革命是由达尔文完成的，他证明人类起源于动物。弗洛伊德本人，则由于发现心灵的奥秘在于无意识而自认为是第三次革命的负责者。他指出，从宇宙学的、生物学的、心理学的这三次革命不难发现，其中每次革命都使人的形象受到损害，这个形象越来越具有相对性和越来越失去其自主性了。正是通过对人类自身所持的那喀索斯主义的这三次革命性打击，人类越来越认清自己的本来面目。这三次革命都是由人类的科学发现导致的，而与之不同，由高科技带来的革命是“地球出现以来最重要的生物学革命”(15)尤瓦尔·赫拉利：《人类简史：从动物到上帝》，第391页。。这场革命是由人类的发明“智能设计”实现的，它不是一种发现，而是一种发明。这种发明使包括人类自己在内的生命可以不再遵循40亿年来的自然选择法则，改由智能设计来控制，而这种智能设计的生命尤其是无机生命(机器人)不知能比它的最初设计者强大多少倍。人类发明了智能设计，按照目前的发展态势，人类最后不得不被它所设计的机器人所战胜、所奴役、甚至所毁灭。海德格尔在1930年发表的《论技术的本质》一文中也表达过相似的忧虑。他认为，技术原本是人们认识自然的一种方式，然而到了现代，由于人们过度迷信技术，技术脱离了人类的控制，变成了一种框架，他将之称为“座架”。它“总是已经占用了人，并且这种占用是如此明确，以至于人一向只有作为如此被占用的东西才能是人”。“不论人在哪里开启其耳目，敞开其心灵，在心思和追求、培养和工作、请求和感谢中开放自己，他都会看到自己已经被带入无蔽领域中了。无蔽领域之无蔽状态已经自行发生出来了，它因此往往把人召唤入那些分配给人的解蔽方式之中”(16)海德格尔：《海德格尔选集》下卷，孙周兴选编，上海：上海三联书店，1996年，第936-937页。。也就是说，海德格尔认为现代人已然被技术所掌控，沦为了技术的奴隶。由此看来，高科技革命不只是使人类更不自信，还有可能毁掉人类的自信，人类因给自己造就了掘墓人而此后再无自信可言了。

二、自律：人类成功应对高科技挑战的基石

机器人代替人、超越人而成为世界的主人，这是不可能的。人工智能只能超越人的智能的一部分，而不能超过由人性开发形成的人格或综合素质。人的智能是由人性现实化形成的人格的构成部分。人格是一个复杂的结构，至少包括观念、知识、能力和品质这几大基本要素。智能乃人的智力或认识能力，它是人类人格中的重要组成部分，但只是能力中的一部分。而且，人的认识能力有不同类型，如认知、理解、评价、构想等等。人工智能至少目前尚只局限于认知方面，恰如“中文屋”之类的思想实验所揭示的那样，现在的人工智能并不拥有人所具有的理解和思考能力(17)段伟文：《机器人伦理的进路及其内涵》，《科学与社会》2015年第2期。，甚至也许不可能拥有。人工智能在智能方面超过人类并不意味着在能力方面都超过人类，更不意味着在人格的所有方面都超过人类。人工智能只能在部分智能方面超过单个人，但即使在这部分智能方面也不能超过人类群体，更不用说人类整体。人是社会性动物，个人的智能是有限的，个人的生命也是有限的，但人类群体和整体的智能有巨大的加和效应，这种效应正常发挥出来是任何个人的智能无法比拟的。而且人类智能以及作为其基础的知识可以一代又一代的延续、传承下去。与之不同，机器人作为机器，不具有社会性、群体性，它总是单独的、孤立的个体，即使用程序将它们联结起来，它们不可能在程序之外随意与同伴合作。它们之间的简单合作只会有简单相加效应，而似乎不可能产生加和效应。机器人不具有生殖功能，其智能当然也不可能一代一代传下去，更无所谓不断地进化发展。没有社会性，这也是机器人不可能取代人类、超越人类的根本性局限。此外，就好比上帝制造不出上帝而只能制造出比他差的万物包括万物之灵长——人一样，人也不可以制造出像人一样的东西，更不用说制造出整体上高于人的东西。

然而，机器人伤害人类以至毁灭人类则是完全可能的。上帝能够创造出背叛他的人(亚当、夏娃)，也没有预料到他创造的人的后代(尼采)会杀死他。同样，人类也能够创造出杀害以至毁灭自己的东西，如核武器，人工智能亦能如此。也许可以这样说，机器人不可能取代人类、超越人类而成为新的人类，成为超人，但它成为人类的杀手，成为人类的葬送者则完全是可能的。今天看来，这不只是一种可能性，更不是一种猜测，而是正在向我们走来的现实，“索菲亚”就是例证。当人工智能与资本相结合而无有效制约的时候，资本的本性和力量就会把人工智能这种未可限量的智能无所顾忌地用来干任何事情。如此，机器人就会成为损人利己的打手。任其发展，人工智能必定会朝着有害于人类整体利益的方向演进，人类就有可能被它主宰，成为它的奴隶。实际上，如果没有强有力的控制，不只是人工智能，其他的科技与资本结合，同样可以置人类于死地。当然，不同的科学可以从各个方面损害人类以至毁灭人类，只是在世界总体上和平的情况下，人工智能对于人类而言是最强有力的杀手锏。实际上，如果人工智能伤害人类、毁灭人类，那并不是人工智能本身的问题，而是资本的本性和力量使然。

高科技或机器人归根到底是人类的产品，人原本是机器人的主人，而非其奴仆。高科技也好，机器人也好，都是人类设计制造的。人可以设计它也可以不设计它，可以制造它也可以不制造它，更可以杜绝一切对人类有害的机器人。所谓“智能设计”，至少到目前为止还完全是人类的设计，而不是任何“超人”的设计。这就是说，人类可以从源头上控制高科技和机器人，这一切到目前为止都完全掌控在人类手中。比如，如果人类担心索菲亚之类的类人机器人会破坏人类的正常生活，人类完全可以不生产它，不设计它，甚至根本就不去研究它。今天之所以有索菲亚这样的类人机器人问世，不过是科学家追求功名利禄的结果，而索菲亚被授予公民身份，更是因为政治家为了出风头或为了捞取政治资本，归根到底是为了一己私利。我们完全可以设想，中国香港的汉森机器人技术公司如果不是为了公司或老板的私利去开发的类人机器人，或者人类有法律严禁此类的开发，这种计算机能够问世吗？沙特阿拉伯政府授予索菲亚公民身份的真实动机我们不清楚，但可以肯定，它的动机绝不会是善良的，不是真正为了人类的幸福。如果全世界所有的人工智能专家都不去研发类人机器人，如果人工智能专家研发出来，厂家不生产，或者生产出来了没有人买，没有人授予其公民身份，那么机器人根本就不可能对人类构成挑战和威胁。

由此看来，机器人之所以会威胁人类生存甚至毁灭人类，根本原因不在于机器人，而在于人类自身，在于部分人类的极端利己所致。这些人为了一己私利而置人类整体利益于不顾，不考虑谋一己之私所可能给人类带来的极其严重的后果。实际上，不只是机器人，其他许多人造产品都存在这种情形。且不谈核武器的研发和制造，即便是许多可能破坏生态平衡的产品(如化学肥料或农药)的使用，如果不加以有效扼制也会威胁人类生存甚至毁灭人类。新近《新京报》报道，日本政府批准人兽杂交胚胎实验。虽然日本政府宣称此项实验在理论上有利于器官移植，但这类实验的后果无疑是极其严重和危险的，最直接的后果是会破坏人类基因的纯洁性(18)《日本批准人兽杂交胚胎实验，福音还是灾难？》，2019年7月31日，http://www.bjnews.com.cn/opinion/2019/07/31/609890.html。。然而，日本政府居然批准此类实验。也许日本政府有这样的传统，人们永远不会忘记日本731部队，那就是得到日本政府批准的。从哲学的角度看，这就是黑格尔和马克思所指出的那种异化，那些原本是为了人类幸福的目的而制造出来的产品最后却成为了损害甚至统治人类的东西。异化之所以发生，还是人类的自私之心导致的短视行为作怪。显然，人类如果能够克服这种异化，就能够克服机器人挑战带来的威胁。异化被克服，人工智能的威胁旋即就会消除。正如有学者指出的：“在可见的未来，人类要担心的不是机器，人类社会的最大风险仍然来自人类本身。”(19)王维嘉：《暗知识：机器认识如何颠覆商业和社会》，北京：中信出版社，2019年，第301页。

机器人是人制造的，它伤害和毁灭人类，从根本上说，就是人类要让它伤害和毁灭自己(不论是有意的还是无意的)。除了自然灾难，人自身之外的任何力量都不能对人类造成毁灭性的伤害。即使有万能的上帝存在，其对人自己作的孽、犯的罪也不会管，也许根本就管不了。这即是中国古代元典《尚书》所断言的:“天作孽，犹可违；自作孽，不可逭。”(20)《老子》三十八章，李存山注译，郑州：中州古籍出版社，2008年，第95页。因此，只有人类自己才能阻止自己制造的机器人伤害和毁灭自己。而要做到这一点，唯一的出路就是自律。人类只有在制造机器人以及制造其他毁灭人类的力量方面严格地自我约束、自我节制，才会有坚定自信而克服悲观的牢固基础。

如果我们考察生物进化的历史就会发现，生物物种的灭绝或被淘汰都是外力作用的结果，迄今未发现有任何一种物种是自我毁灭的，因为除人类以外所有其他物种都没有这种能力。人类不同，人类作为一种物种，不仅完全有可能被某种外在力量所毁灭，而且完全有可能被自己毁灭。在人类进化史上，有许多地方的人类就曾经因为外部环境的变化而灭绝，正因为如此，人类曾经于约200万年和约18万年前两次走出非洲，到世界各地重续人类“香火”，一而再地使自己在大地上顽强地生存下来。人类毁灭自己的力量只能是自己制造出来的力量。在人类历史上虽然未曾有过人类自己使自己完全毁灭的先例，但人类大规模地自相残杀的事例就太多了。在一定意义上可以说，人类的历史就是一个自相残杀的历史，只是在20世纪以前的历史上，人类还没有发明和创造一种可以毁灭所有人的力量。不过，进入20世纪后，这种力量有了，现在还存在着，这就是核武器。随着人类制造出来的造物越来越强，毁灭人类自己的力量也逐渐增大。有的造物可以单独地毁灭人类，有的可以合作起来毁灭人类。前者如核武器、生化武器等，后者如导致生态破坏、环境污染的种种物理的、化学的、生物的排放物。机器人有高智能，且有机器的体能，它既可以单独地毁灭人类，也可以与其他力量合作毁灭人类。因此，机器人正在跻身于可以毁灭人类的造物之中，并有可能成为毁灭人类的非武力力量。

要解决包括机器人在内的毁灭人类的力量的形成，从根本上说就是要让人类不创造或生产毁灭自己的力量。人类自己不让自己做什么事情，这就是人的自律，也就是自我约束或自我控制。人类只有自我约束才不至于自我伤害、自我毁灭，古今思想家早已有了这种意识。“尊道贵德”是中国传统价值观的根本观念，其本原含义就是尊敬、尊崇“道”与“德”。之所以强调人要尊道贵德，是因为人与万物不同，万物本来就会自然而然地尊道贵德，而人因为有自主性而不能如此。如果没有道德的约束，人类就会自相残害而使社会陷入混乱。老子对此作了深刻的阐述。他认为，当时人们特别重视礼，这正说明是失道的后果。所以他说：“失道而后德，失德而后仁，失仁而后义，失义而后礼。夫礼者，忠信之薄而乱之首。”(21)《老子》三十八章，第95页。西方基督教相信，上帝在创造亚当和夏娃时给人赋予了自由意志，而且也没有什么外在的制约，如果人类祖先不能自律，就有可能犯罪。人类的祖先果然不能自律而违背了上帝的意志，于是人类就有了世世代代不能赦免的原罪。《圣经》讲的人类祖先亚当、夏娃在蛇的引诱下偷吃果子而堕落，从而流落人间受苦受难(22)参见《圣经·创世纪》第三章。的故事实际上也是要说明，人类如果不能自我约束就会犯罪，就会使自己坠入苦难的深渊。

从人类种族的角度看，人类的自律是多种自律交互作用的复杂制约机制，只有当其中每一种自律发挥作用并且彼此之间协同发挥作用时，它才能够对人类行为真正起到制约作用。这里所说的多种自律包括三个基本的方面，这些方面都是必需的、重要的、不可或缺的。

首先是个人自律。这种自律是指个人在任何情况下都能靠自己的力量进行自我约束而不做危害人类、危害同胞的事情。用中国传统文化的话说，这种自律就是“慎独”，即即使一个人独处且做坏事不会被人发现的时候也不做坏事。自律是人类自律机制中最基本且最重要的机制。形成这种自律机制是很难的，某种外在的约束对于这种机制的形成具有重要作用。中国传统社会有所谓“头上三尺有神明，不畏人知畏已知”的说法，这就是要求人们要有敬畏感，有了这种敬畏感就会在任何情况下不作恶。西方人也有对上帝末日审判的畏惧感。只要全人类每一个人在任何情况下都不做坏事，世界上就不会有邪恶存在。就人工智能而言，如果每一个人工智能的开发者都不研发那种危害人类的机器人，就不会有危害人类的机器人问世，更不用说用机器人来毁灭人类。

其次是社群自律，即一个社会范围内的各种社会群体或共同体(包括家庭、企业、社团、党派等)，在任何情况下都能够凭借自己的力量约束自己不做危害人类和同胞的事情。在当代，社会群体尤其是企业在社会生活中的作用越来越重要，对人类有重大危害的东西也大多出自企业。几乎所有足以危害人类生存的东西都出自工厂，而且往往是单个人所不能完成的。在企业工作的个人即便能够自律，但出于生计考虑，常常也会身不由己，被迫与他人合作做出一些危害人类的事情。更何况，今天很多企业为了做强做大，在科研开发方面投入重金，给技术人员提供优厚的待遇和优越的研发条件，刺激他们去研发那些利润极大但对人类有害的产品。在这样的强大诱惑力面前，技术人员自律的力量常常显得非常微弱。如果企业真正有自律，不仅不会破坏企业职工的自律机制，相反还可以促进企业职工增强自律精神，形成企业的自律合力。今天，企业就是机器人的研发制造单位，没有企业的作为，也就不可能有机器人的问世。今天机器人不仅问世了，机器人行业还如日中天。这个时候，如果企业不能自律，而是唯利是图，那么，什么样的机器人都可能被生产出来，只要有钱赚且企业有制造能力。

再次是国家自律，即一个社会在任何情况下都能凭借自己的力量约束自己及其成员不做危害同胞和人类的事情。现代社会是以国家为基本生活共同体的社会，国家具有主权且控制着一国范围内的一切。国家能够自律就能够为个人和组织自律提供良好的环境和制约，而国家不能自律则个人和组织就会放任自流。更为重要的是，国家能自律就可以约束国家本身，不去做那些危害人类的事情。国家是一个利益共同体，由于种种原因，国家常常会把国家利益或国家某些集国的利益凌驾于人类整体利益之上，做出一些有利于国家而有害于人类、世界的事情。核武器的制造、日本731部队的实验，以及一切人间罪大恶极的事件，几乎都是在政府领导、组织或支持下发生的，或者是政府的管理导致的。在危害人类的机器人的研发和制造方面，国家也同样可以如法炮制。事实表明，国家进行那些危害人类的事情，其危害之大是任何个人和组织都不能与之相提并论的。国家如果不能够自律，就可能成为机器人肆虐的帮凶。

人类的这三个方面自律必须有机统一起来发生作用，其中国家自律是最重要的自律。国家能够自律，它就可能通过法律、制度、政策、措施、道德等各种途径和手段来防范个人和企业研制危害人类的机器人及其他东西。反之，国家不仅会纵容那些危害人类的行为，甚至会亲自出马领导和组织此类行为。有了国家的自律，再加上个人和组织的自律，三者之间形成合力，就可以形成保护人类生存的牢不可破的铜墙铁壁。今天中国学术界还在讨论“平庸之恶”的问题。平庸之恶实际上就是一种由被迫到自愿作恶的恶。在生活重压之下或者在意识形态的强力影响下，很多人都会作所谓的平庸之恶。平庸之恶不仅会发生在国家政权的重压之下，也会发生在企业或单位的种种诱惑之下。当然，我们不能否认，如果一个国家的每一个人、每一个企业都能够做到自律，国家治理者即使不自律，也会受到重重制约。不过，在国家化的今天，国家的力量极为强大，真正成为了霍布斯所描绘的“利维坦”。国家的自律问题不解决，不仅会使直接伤害人类的东西问世，许多对人类并无直接伤害的东西也可能被用于伤害人类。在当代人类国家化条件下，在国家至上主义普遍盛行的情况下，国家自律的问题很难从根本上解决。只有当人类的基本生活共同体由国家转向世界的时候，或者说，只有实现了世界大同或建立起人类命运共同体的时候，社会自律问题才有望从根本上得到解决。

实际上，只要人类有了真正有效的自律机制，就根本不会有人为制造的伤害自己的东西来到世间，至少不会有有意识地利用本来为人类造福而研发的人为产品来伤害和毁灭自己的行为。只有人类机器化，机器才会人类化。人类不成为赚钱的机器，而保持人类应有的尊严和自由，机器就不可能人类化，更不可能取代人类。因此，人类普遍有了自律，就不会发生机器人伤害人类以至毁灭人类的问题。没有机器人控制人和毁灭人类问题的发生，更没有机器人超越人类、取代人类问题的发生，人类的自信就不会受到伤害，人类也就不会产生自悲问题。正是在这种意义上，我们把人类普遍自律视为人类普遍自信的基石。人类有自律才会有自信，没有有效的自律就不会有真正的自信。在人工智能时代，没有普遍有效的自律，人类不仅不会有自信，而且会离毁灭之日不远。

三、高科技时代构建人类自律的根本路径

在国家化的条件下，形成人类普遍有效的自律是十分困难的，但高科技尤其是人工智能的迅猛发展又使这个问题十分迫切地摆到了人类面前。“迫在眉睫的生态危机、日益增加的大规模杀伤性武器的威胁，以及一些打破常规的新技术崛起，都不允许我们再拖下去”(23)尤瓦尔·赫拉利：《今日简史：人类命运大议题》，第IX页。。按照人工智能专家的预测，从人工智能现在的发展态势来看，在各方面都比人类智能强万亿倍的超人工智能时代的到来已经为期不远。根据尼克·博斯特罗姆的看法，人工智能的工作方式之一是独立意志模式，即能够执行开放式任务，能在世界里自由活动，可以自己做决定。这就是说，到了超人工智能出现的那一天，地球上会有活动着像人一样但比人聪明能干万亿倍的机器人。在强大的机器人面前，人也许远没有动物之于人类那样的地位。果真如此，人类的自信和尊严将丧失殆尽。

但正如前面所述，人工智能的这种发展态势只会在人类缺乏自律的情况下才有可能出现。如果人类是普遍有效自律的，人工智能的发展不可能走到这一步。那么，在人工智能时代，如何使人类建立有效的自律机制，实现人类的普遍自律呢？人类可采取的措施很多，也许有两条是根本性的：一是改变人类现行的市场经济模式，从根本上杜绝人们利用科技极端利己的动机。普遍消除这种动机，人类才有可能真正做到自律。二是改变人类现行的国家政治模式，从制度上扼制乃至禁止目前在国家政府主导下的全球性机器人研发竞赛。停止或撤消这种国家间抢占谋利制高点的竞赛，社会才有可能真正做到自律。

人的人性和人格都有一个形成过程，人性的形成要早于人格。在现代社会，人性形成大致在18岁左右，而人格得到30岁左右形成(24)参见江畅：《“成人”与人之为人》，《南国学术》2017年第4期。。人格中包含观念和品质要素，人格在形成的过程中都会不同程度地形成具有道德自我约束作用的善恶观念和德性品质。在人格的形成过程中，人的善恶观念和德性品质的形成与人性的利己倾向存在着张力关系。在正常情况下，观念和德性品质的形成是一个从不顾别人的极端利己到无损于人的合理利己以至于达到有益于人、服务于人的成己成人的过程。但是，品质的早期形成深受环境因素的影响，家庭、学校、同伴的善恶观念，以及信息化时代无孔不入的媒体所宣传的善恶观念，对人格形成的影响极大。在市场经济条件下，特别是在市场化程度严重的社会，利益最大化法则往往成为了社会的基本道德(善)观念和道德原则。生长和生活在这种环境中的人就很容易把利益最大化法则作为自己的道德观念和行为准则，甚至以这种观念来养成自己的德性品质。当一个人把利益最大化作为追求时，他人性中的那种原本是自发的不顾别人的极端利己倾向就会得到强化，而无损于人和有益于人的合理利己力量就会弱化。如此发展下去，最终往往会使唯利是图、不择手段的极端利己主义成为人的基本行为动机和价值取向。如此，人的道德自律就丧失了。

当然，在法制健全的社会(国家)中，人们的极端利己主义倾向不可能赤裸裸地表现出来，但在三种情况下，人还是会去极端地利己：一是在法制遗漏的地方，或者说，钻法制的空子。比如，科学家为了成名获利，利用有关基因编辑的法制缺乏的空子去研发基因编辑婴儿。二是有政府支持或作后台。比如，日本731部队当年所做的活体实验就是日本照着关东军计划实施的。三是在尚没有法制约束的世界。当年英国殖民者发动的鸦片战争，欧洲殖民者对土著民族的围剿，今天一些企业无所顾忌地向环境排放废弃物，这些都是人们在没有法制约束的世界中所做的极端利己行为。在今天，这三种情况仍然普遍存在。在这种环境下形成人格的人，常常会以极端利己为基本行为动机，做那些伤天害理的事情。人工智能的发展原本是科技发展的重要组成部分，是科技的深化发展，因为它是一种从人肢体的延伸深入到人大脑的延伸。但是，一些人工智能科技人员为了牟取更大的功名利禄，不顾人类的前途，甚至敢冒人类毁灭的风险，千方百计地开发那些挑战人类尊严和自信的机器人，他们与唯利是图的企业一拍即合，企业为了利用机器人创造更多的资本对这些人进行投资，而国家为了抢占机器人的制高点也纵容企业和科技人员的任性。如此一来，高科技伤害和毁灭人类就成为了人类生存的现实威胁。正如尤瓦尔·赫拉利指出的：“拥有神的能力，但是不负责任、贪得无厌，而且连想要什么都不知道。天下危险，恐怕莫此为甚。”(25)尤瓦尔·赫拉利：《人类简史：从动物到上帝》，第408页。这就是今天人类的真实状况。

以上分析表明，人性本有的利己倾向在市场经济条件下，受利益最大化法则的激发而膨胀，影响了个人人格正确善恶观念和德性品质的形成，从而使个人的道德自律松弛以至丧失。市场经济的本质和核心是资本，追求利益最大化正是资本的本性和逻辑，也是资本的力量之所在。只要有市场经济存在，资本的逻辑和力量就会发生作用，这种力量十分强大，不仅摧毁了封建主义、专制主义，也正在摧毁一切约束它的道德，甚至法制。在这种情况下，人类要保持和增强自身的自律，以抵御那种通过开发类人机器人以及其他一切危害人类的行为以牟取暴利的强大利益动机，就需要改变几乎成为世界各国普遍经济形态的市场经济。也就是说，在当代，要防止机器人对人类的危害，就必须增强个人和企业的自我约束力，而要做到这一点就必须改变市场经济这种经济形态，寻求一种新的经济形态。

改变市场经济这种经济形态，不仅可以解决个人的自律问题，同样可以解决企业的自律问题。今天，许多企业唯利是图，不仅不讲社会效益，而且给社会特别是人类造成巨大的伤害，其根本原因还是在于实行市场经济这种经济制度或体制。在这种经济制度之下，企业以谋求经济利益为唯一动机，即使企业不危害社会甚至讲究社会效益，那也主要是为了这样能够更好地实现经济利益。既然如此，当企业在危害社会可以比不危害社会获得更多利润而又不受到法律制裁的时候，它通常的选择不会是后者。一个国家的企业很多，整个世界的企业更是海量。在市场经济条件下，它们这样行动，社会管理者根本防不胜防，更何况不少国家为了国家的狭隘利益(在国际市场竞争中取胜)而纵容甚至变相鼓励企业这样做。因此，企业的真正自律不可能在市场经济条件下建立起来。市场经济条件下的约束力只是外在的，一旦外在约束力丧失，企业实际上就没有了约束力。这就是在现代社会企业之所以成为危害人类的主力杀手的根本原因。

作为私有制发展到一定阶段的产物，国家是维护统治阶级利益的机构，是“阶级矛盾不可调和的产物和表现”(26)《列宁文集》第3卷，北京：人民出版社，1995年，第114页。。人类进入文明社会是与私有制的出现相伴随的，而其直接的原因则是部落之间的战争。当一些部落战胜了另外一些部落而成为统治者并建立暴力机器来维护统治的时候，国家就产生了。国家实际上是本部落与外部落冲突的产物。因此，国家建立后对不在本国范围的其他部落或国家总是持敌对的态度，或者说只考虑本国的利益而不会考虑甚至企图抢占国家以外的人类的利益。当然，国家统治者为了家族或统治集团的利益也会对本国的被压迫者(最初是战败者)进行剥削和压迫。就是说，传统国家无论是对外还是对内实际上是没有有效约束的，用今天的话说，统治者都很任性。近代以来，在西方民族独立运动的影响下，国家这种基本共同体形式从过去少数地区走向了全世界，人类实现了国家化。当然，这种国家是不同于传统国家的现代国家。

相对于传统国家而言，现代国家在许多方面发生了改变。比如，至少在形式上国家成了公民社会，公民是自由平等的，公民而非治理者是社会的主人，治理者治理必须依法行事而不能任性，如此等等。但有一点是没有变的，那就是它把本国利益置于至高无上的地位，不仅不顾及甚至只要有可能就会去侵占本国以外的国家的利益和本国以外的人类利益。今天，每个国家都极力宣扬爱国主义，视之为最为重要的国家原则。“问题在于，有时候良性的爱国主义会摇身一变，成为盲目的极端国家主义。这时，人们不仅相信自己的国家独一无二(其实所有的国家都是独一无二的)，更会相信自己的国家至高无上，需要自己付出所有的忠诚，其他人对自己来说就不那么重要了”(27)尤瓦尔·赫拉利：《今日简史：人类命运大议题》，第104-105页。。在全球化的背景下，地球以至外层空间成为各国均肆意掠夺而对它不负责任的“公地”，这里既是各国抢占资源的宝地，也是各国排放废弃物的垃圾场。这种情况表明，在国家化和民族至上的今天，一个国家即使有了对内的自律，也不会真正有对外的自律，而这正是当代人类各种危机的根源。如果高科技会危害以至毁灭人类，那么国家缺乏自律无疑是一个主要原因。

人类历史事实证明，不同国家或民族在国际事务方面都是民族利己主义，没有什么国际主义，如果有的话，那也是出于利己主义的动机。“在整个人类历史上，大多数人都以为有战争是必然的，而和平只是一个暂时的、不确定的状态。国际关系也遵循‘丛林法则’，就算两个政体看似和平共处，战争也始终会是一个选项”(28)尤瓦尔·赫拉利：《未来简史：从智人到智神》，林俊宏译，北京：中信出版社，2018年，第13页。。国家的这种本性表明，靠国家自己的自律是不可能解决高科技迅猛发展将会危害以至毁灭人类的问题的，因为国家不可能建立这种自律机制。因此，想解决高科技及其他人造物危害人类的问题，从根本上说就是要建立人类命运共同体，谋求人类大同，以使人类基本生活共同体从国家转向世界。只有这样，才有可能彻底解决国家有政府而世界无政府这一当代人类各种危机的最大根源，才有可能彻底解决人类各个人、各企业、各国家对人类整体的危害问题。当然，这是一条艰难的道路。中国政府提出构建人类命运共同体的倡议虽然得到了相当多的国家和国际组织的赞成，但并未成为世界各国的普遍共识，更何况人类命运共同体真正建设起来面临着重重困难。

在这种情况下，解决各国自律问题的比较现实的路径只可能有这样几条：一是努力突破国家或民族至上观念，树立人类至上观念。在全球化、信息化以及自然环境的恶化已经将人类的命运紧紧联系在一起的今天，各国相互联系、相互依存，全球命运与共、休戚相关，全人类和世界各国都必须破除国家至上的狭隘眼界，增强人类整体意识，为人类生活共同体从国家走向世界奠定观念基础。二是加强国际舆论力量，利用强大的舆论制约机制迫使国家极端利己行为有所收敛。为了本国利益而损害人类共同利益的国家极端利己行为，是当代人类一切祸患的最重要根源。世上没有绝对安全的世外桃源，一国的利益和安全不能建立在别国的损害和动荡之上，他国的威胁也可能成为本国的挑战。在世界强制力量尚未建立起来的情况下，必须形成强有力的扼制这种国家极端利己行为日益猖獗态势的国际舆论，强化国际道义，使一切损害人类整体利益的行为受到应有的谴责，使之不敢为、不能为。三是强化联合国及其安理会对整个世界的控制力量，维护人类整体的和平、安全和尊严。在今天，联合国及其安理会仍然是唯一世界权威机构，充分发挥该机构的作用是当前克服人类面临的高科技挑战，维护人类整体利益的最佳选择。各国也要坚定维护以联合国为核心的国际体系，坚定维护以联合国宪章宗旨和原则为基石的国际关系基本准则，坚定维护联合国权威和地位，坚定维护联合国在国际事务中的核心作用。与此同时，也要不断改革和完善联合国及其安理会的制度和机制，促进其尽快向作为管理世界的权威机构转化。

人类经过250多万年的进化发展，已经具有了除上帝之外任何其他物种所不具有的灵性。这种灵性是智慧的根基和土壤。这种灵性绝不仅仅是智能，也不仅仅是机器可以取代的那部分智能。但是，如果人在资本和逻辑力量的推动下，除了保持对利益的追求和占有以及对欲望的贪得无厌的满足之外，有意无意地丢弃人所有其他的灵性，也就是将自己降低到动物甚至机器的层次(机器运行只需要燃料就行)，那么人类不仅完全没有了自信的根据，也没有了不被在能力上更强大的机器替代的理由。从人类自身看，人类越来越丢掉作为人之为人的那种灵性，沦为工具化、单面化的人，因而人类实际上自己为被机器人取而代之或毁灭准备了条件。但是，如果人类在任何情况下都保持并不断充实自己的灵性，像中国古代所强调的始终保持自己特有的“精气神”，那人类就在任何时候都不会被自己所生产的产品打垮，更不可能被它们所替代。“这并不是人类第一次发明了比自己强的工具，从第一次折断树枝作为大棒开始，人类已经有无数超过自己能力的工具。只不过这次不再是比人的胳膊力气大，比腿跑得快，比眼睛看得远，而是比大脑更能觉察万事万物间的隐蔽关系”(29)王维嘉：《暗知识：机器认识如何颠覆商业和社会》，第299页。。只要人类能够自律，并且有克服极端利己行为的定力，任何科技和机器都不可能战胜人类，相反人类完全可以利用科技和机器造福于自己。