人工智能与人类命运

新一代人工智能的发展，在触发对人类命运担忧的同时，凸显了对人工智能和人类命运关系探索的紧迫性。这一发展情势揭示了当代人们的深层次需要：在哲学和科学一体化发展的信息文明时代，人类精神家园寻求的具体化。

一、人工智能和人类智能

20世纪70年代，由于科学技术发展的局限，关于人工智能是否可能具有创造性的讨论无果而终；而在21世纪的今天，由于信息科技突破所带来的人工智能发展，这一问题以比20世纪现实得多的方式重新呈现在人们面前。人工智能的话题如今越来越热，AlphaGo没有悬念地战胜人类围棋高手，似乎预示着人类正面临图灵奇点的到来。

早在20世纪50年代，图灵就预言，人工智能的发展将迎来超越人类进化的奇点。作为计算机科学和人工智能之父，图灵的预言似乎在人类头顶悬置了一把达摩克利斯之剑，在权力和力量不断增强的同时，人类日益紧张地关注远处渐近的“图灵奇点”。由于近来机器智能水平越来越高，研究人员相信未来几十年内机器可以达到人类智能水平，由此越过图灵奇点，发展为“超级智能”。

由于当代科技的加速发展，人工智能成为具有自主性和交互能力的实体。由此，人工智能学科创始人之一、美国人工智能专家马文·明斯基(Marvin Minsky)在人工智能研究领域引入了“agent”概念，中译“智能体”较能体现具有智能的“agent”的性质。在人工智能领域，“人工智能体”(intelligent agents)和“人工智能信息体”(intelligent information agent)等概念的使用越来越广泛。[1](P103、v).由于这种“硅心”智能体具有完全不同于人类“信息体”(information agents)的载体，它们具有智能发展的明显优势；由于机器进化可以周期非常短，其速度远非生物体进化可比，出现“超级智能”的可能性显而易见。无论图灵奇点在什么时候出现，人类早晚都会面临这一情势。

关于奇点之后的人类命运，乐观的观点认为人工智能只是人类的辅助；悲观的观点则认为人工智能将带来人类的终结。正是这两种截然不同的观点，表现了人类的类智慧。无论图灵奇点后的未来发展将是一种什么样的情景，我们都不得不深入思考这样一个问题：机器智能和人类智能将会是一种什么样的关系？这些关系不仅涉及人类文明的走向，而且关乎人类的命运。

面对人工智能的当代发展，人们的担忧是理所当然的，由此甚至提出了“AI 末日论”。特斯拉首席执行官埃隆·马斯克认为，人工智能的进步是“我们作为一个文明面临的最大风险”，“人类可能会被 AI 玩死”。霍金也多次表达“人工智能可能导致人类毁灭”的忧虑，早在2014年12月，他就说人工智能可能会终结人类。比尔·盖茨等也有同样的担忧。与此相应，脸书公司创始人扎克伯格等对人工智能的未来发展持相对乐观态度，认为人类会用好人工智能这把“双刃剑”，为自身造福，但同时也认为，“如果人工智能成为主流，就需要谨慎和监管来保护未来”。

鉴于人工智能当前的发展态势，为了保障人类未来的利益和安全，霍金和马斯克等在美国加州阿西洛马(Asilomar)举办的会议上，联合签署了23条AI发展原则，其中还包括844名人工智能和机器人领域的专家。

事实上，早在70多年前，美国科普作家阿西莫夫就有机器人三定律的科学幻想。为使机器人服从人类道德律令，他设想给机器人嵌入式内置“机器伦理调节器”，按优先顺序排列出机器人三定律。很明显，这只适用于对相对处于初级阶段的人工智能机器，一旦人工智能发展到具有自主创造能力，这种人为的定律内置迟早要失效。在人机交融发展的特殊阶段，人类最终必须通过依靠自己把握发展原则来把控局势。

创新的确是难以预测的，在20世纪90年代，凯文·凯利还认为人工智能威胁论“无异于宗教信仰”；然而仅仅不到20年，新一代人工智能的发展就已出乎这位被称为20世纪最伟大预言家的想象。那时还认为没有证据支持的人工智能威胁论的五个假设，今天人工智能的发展已经提供了越来越多的证据。虽然AlphaGo的发展仍然是人类智能借助人工智能战胜人类棋手，脸书聊天机器人自创语言交流也不是像人类那样的有意识行为，但从AlphaGo 到 AlphaZero，从聊天机器助手到脸书聊天机器人自创语言交流等，这些人工智能新成果呈现出让人担忧的新发展趋势。一方面，人工智能开始显露出智能或知识不同但在某些方面优于人类学特性的机器特性；另一方面，人工智能已经开始展示出与人类学相互性相同的机器相互性(reciprocity)。人工智能和人类智能以相互性为共同的基本特性。“人工智能算法行为不是边界清晰的单个行为而是集体行为的演化，其行为效果既不由‘某一’行为所决定，亦不由其前提完全决定。”[2]如果这可以理解为一个类的行为，那就表明人工智能算法行为具有类的特征，而类特征恰恰是智能进化的必要条件。

人类智能的长期发展日益清楚地表明，智能的竞争归根结底是类特性的竞争。具有自我意识的智能一定是经历的产物。因为意识是类的特性，单独的个体不可能产生意识；自我意识是类的意识，而类意识是经历的产物。因此，在智能发展中，关于人工智能和人类智能的关系问题，关键就在于人工智能是否能像人类那样作为一个类进化。

人之所以为万物之灵，人类智能之所以能进化到目前的水平，主要因为人是一个类。人之所以是一个类，一开始可以更多的是由于生物学的原因，作为群居动物生活。正是群居使得信息在演化中扮演了越来越重要的角色。作为具有自我意识的智能体，人类智能的形成与作为一个类的经历有关。所有具有自我意识的智能体必定是作为一个类的经历的产物，而正是作为群体活动的经历，构成了一个特定的类，两方面构成双向循环。因此作为现代人类，作为一个类的主要依据，其实越来越是信息，这一点具有深刻意味：随着信息科技的发展，不仅人类个体之间，作为智能体的人类与机器之间也会越来越具有同一个类——智能体的性质。以相互性为基本特性的信息本身就具有类的天然倾向，类越大，信息的优势发挥越充分。

因此，只有具有了类的特征，并具有自己的经历，人工智能的发展才可能达到更高层次，图灵奇点才可能来临。由此，关于人类智能和人工智能关系的理解，以及人工智能和人类命运问题的理解，就必须进入智能进化机制的更深层次。

二、原生进化和次生进化

事实上，新一代人工智能的新成果，已经晓示着智能进化的新图景。的确，可能没有其他智能进化能够以生物进化那样的自然方式发生，但没有任何理由由此认为，智能进化不可能以生物以外的方式进行。就人类目前所知，至少在地球条件下，智能的自然进化只能以类似生物体的方式进行，因为特定的自然条件使生命产生的进化环节只能以化学方式发生。而在生物智能进化方式之外，理论上可以有很多其他可能的智能进化方式，而且就进化速度等而言，它们中的很多还可能是更好更合理的方式，目前已知的电子方式也许还不是其中最好的。但是，电子方式不可能自然发生和进行，而只能建立在作为自然进化结果的人类智能基础之上。目前的科技发展就已经表明，机器智能就能够、也只能借助人类智能，在人类智能的基础上进化。人工智能进化是建立在自然进化基础上的机器进化，由于只能在生物智能进化的基础上发生，因而是一种在人类智能进化这种原生进化基础上进行的智能的次生进化。机器智能为人类智能所创生，当人工智能可以自主设计出具有比自己更高水平的智能时，机器智能的自主进化就开始了。与智能的原生进化一样，这种次生进化也包括创造力的形成和发展。至少在某种程度上说，人工智能进行创造是完全可能的，因为创新有时候就是相关要素的重组，而人工智能排列这种组合甚至比人类具有更大的优势。

虽然是一种次生进化，但在生物智能进化的基础上，无论智能形式还是进化方式，人工智能都可能是比以生物体为载体的人类智能更高层次的智能。相对于生物智能，也许图灵计算机在很多方面劣势明显，但随着科学技术的发展，量子层次以上的机器智能，将在更多方面越来越具有优势。这样，人类智能和人工智能的关系就进一步展示出来了。一方面，由于其自然性质，生物智能也许是自然发生的唯一智能进化方式；另一方面，受限于信息活动的物能层次，生物体肯定不是信息的最佳载体。随着科学技术的发展，不仅机器智能生物化，而且日益作为信息体存在，人类智能载体的升级换代就不是不可能的了，否则他们就竞争不过自己创造的智能机器。国务院《新一代人工智能发展规划》所提出的五个概念中，就有“人机混合增强智能”，这是富有前瞻性的。

即使人机交融进化，对于人类来说，风险仍然存在。虽然在人机交融进化中，原则上不存在人机竞演的问题，但仍存在巨大风险。

人工智能的发展越过图灵奇点后，关于人类命运的悲观和乐观两种观点都是有根据的。即使人类智能和人工智能交融进化，在人工智能一定的发展阶段，即在人工智能发展到力量足够强大但又层次不足够高，人类智能发展又没有达到具备更新载体的能力时，人工智能就可能构成对人类智能载体的逆损毁威胁。如果人类不足够谨慎，人工智能的放任发展不是没有毁灭人类的可能。在这一特殊时期，如果不严格掌控，仍然有可能出现人类智能和人工智能竞相演化的局面。而且，人类更要警惕的是自己，人们更应当担心的事实上也是人对人工智能的邪恶利用。正因为如此，在这一风险较大的特殊时期，人类仍要有自己的人工智能发展原则。这个发展原则就是：“道在魔先”。人类必须做到“道”在“魔”先：潘多拉魔盒打开之前先要有制服之道，解毒剂是毒药的准生证。在整个危险期内对可能出现的情况做到都有预案。

无论在并行发展还是交融进化的特殊时期，都必须严格遵循“道在魔先”的发展原则。一个最基本也是最重要的例子，就是当人类还不具备生物载体更新能力前，不能让人工智能的自主进化发展到人类智能不能控制的程度，或者说，必须到人类具备载体更新能力时，才能让人工智能完全进入自主进化。这时候，人类智能和人工智能已经真正进入交融发展，智能进化已经达到超越生物和机器不同载体发展的更高层次。这样，即使在人工智能发展最具威胁性的阶段，人类也可以有理由抱乐观态度。

人类智能和人工智能的进化都是智能进化，他们之间的主要不同就是载体的区别。当载体可更新替换后，人机区别就会逐渐缩小以至消失，人类智能进化和人工智能进化融合为更高层次的智能进化。 人类智能和人工智能的发展进入融合进化的过程，意味着智能升级到更高层次的进化阶段，从而度过完全融合进化前的危险期，进入融合进化安全期，进入人工智能和人类智能的交融发展。这是一个生物智能机器化和机器智能人类化的发展过程。

由此可见，一方面，所谓人工智能的发展，实质上是智能进化的机器阶段；另一方面，也正是人工智能，开启了从生物载体升级到更高层次载体的智能进化，使智能进化呈现出从生物智能到机器智能的发展图景。智能进化的初级形式以生物进化的自然方式进行，而其高级形式则将涉及信息载体的升级，从生物体向更有利于智能发展的更良载体发展。

在智能进化过程中，载体的进化有两种可能的方式：一是人工智能与人类智能载体独立平行发展，结果较低层次的生物载体处于劣势；二是人类智能和人工智能载体交融进化。前者正是人们担心的方式，后者则不仅是可能避免人类被淘汰，也是最可能的方式。而载体交融进化的方式本身也有两种可能：智能载体一次性替换和渐次升级，即机器和生物载体不断被部分地相互替换，采取一种载体渐进交替换代的方式。前一种方式不是逻辑上不可能，而是在发展历程上没有后一种可能具有优势。因为具有自我意识的信息体的进化不仅是类的发展方式，而且更是经历的产物，远不只是某种智能——比如计算能力的发展。计算能力不一定非得是有意识的信息体才能具有，计算任务的完成并不是非要有意识的信息体，这种计算甚至可以以物能方式完成。而具有自我意识的信息体是经历的产物，作为经历的产物，这个层次的智能体不可能一次性整个替换载体，而必须以适当的渐进升级载体的方式进行。也就是说，人工智能和人类智能的发展关系，更可能的方式是交互式，人类与智能机器人相辅相成，共同发展进化。那不仅是一个生物智能机器化，而且在某些阶段同时是机器智能人类化的发展过程，即在某种程度上的人的机器化和机器的人化。由此所展现的就是智能进化从生物载体到更高层次载体的升级。

无论哪种方式，智能进化的实质都是信息进化。不管是渐进还是一次性整体置换载体，智能都是以作为进化已有结果的信息体为转移的。智能体的实质是具有信息加工和生产能力的信息体，智能进化归根结底是信息或信息体的进化。事实上生物进化意味着只是信息进化的载体进化过程。因此，如果只是立足于物能存在，就会得到更高层次载体的发展，意味着人类被淘汰的结果；但如果立足于信息存在，立足于信息体，则可以看到更高层次的智能，意味着人类发展的更高层次。

三、零和竞演和融合发展

如果人类智能和人工智能竞相演化，人们始终不能回避这样一个严重的问题：在人类与智能机器人协同发展的进程中，具有更高智能水平的机器超级智能是否会选择牺牲人类的发展道路？人类智能和人工智能交融进化，人们应当不用有类似的担心。事实上，即使作为单纯的人工智能发展的产物，真正意义上的超级智能不仅不可怕，反而是人类的福音。因为智能层次涉及观念层次的重要差别，超级智能的出现更有利于人类文明的发展，只是在交融进化的过程中，才会遇到一系列问题。

1.社会的技术治理问题。

有一个重要的事实可能不太受人关注，那就是处于较低需要层次的人，不可能理解处于较高需要层次的人即生成于那一层次需要的一些观念；而处于更高需要层次的人工智能比处于较低层次需要的人类，更理解其处境和合理选择。由此引出的问题是：当单纯的人工智能发展出超级智能后，人类是不是应当由具有更高智能水平的超级智能体来治理？

当然，就具体个人而言，不同处境的个体会有不同的感受，但人作为一个类，具有自己的类的利益。信息文明的发展将越来越清楚地表明，越是作为信息方式存在的人，越是作为一个类的存在，在智能进化中越具有优势。作为信息方式的存在，人应当会选择层次越来越高的类的存在方式。这涉及人类所担心的个体利益和集体利益的冲突问题。正是信息方式的存在，使人作为一个类的重要性越来越得以凸显，从而使人们能更好地理解个体和群体的利益关系。因此在社会治理的过程中，越来越依靠技术——超级智能机器人，无论在观念上还是在情感上，都将会越来越倾向于更明智的选择。

2.智能(思维)达尔文主义问题。

在人机交融的智能进化中，虽然不应有类似“种族灭绝”的担心，但可能会有是否存在智能达尔文主义或思维达尔文主义的忧虑。即使在人机交融进化的条件下，由于观念、技术和经济条件的原因，仍然存在载体更新程度和进度等的差别。由于不同智能载体意味着不同效能，智能载体更新必定带来个体智能效率的不平衡，会不会由此造成不同效能智能体之间的不平等，甚至由此带来智能(思维)达尔文主义泛滥？

由于信息与物能的不同本性，如果说，达尔文主义会在自然界存在，甚至也会在人类社会中存在，那么绝不会在思维领域广泛存在。因为思维领域所涉及的主要是信息的加工和生产，一方面，对于思想生产来说，远非信息速度就是一切；另一方面，信息不仅具有共享的本性，而且思想生产具有共激原理，越是大范围异质信息共享，越可能相互激发出更多思想。

首先，信息的多样性价值使共生成为基本价值观。在信息文明的发展过程中，存在一个重要的价值事实：信息的多样性资源价值。由于信息的多样性有利于存在和发展的性质，信息体的存在或信息方式的存在同样具有多样性价值观。生命的多样性是生态的生命线，这与多样性对于生态的根本重要性密切相关。在自然生态中，生命资源的多样性、差异性与统一性相对，过度的统一性是生态终结的机制性原因。信息生态更是如此，对于信息生态来说，生命的多样性尤为重要。尽管人类由于文化等原因严重卷入相互利害冲突中，但理性的人已经明白，生物基因的多样性不仅是使生物适应自然环境变化最重要、最根本的资源，而且是把握新的可能性、创构新的对象的宝贵财富。因而保护生物基因资源的共识，在具有真正意义上的机器超级智能体那里，理解得只会比现在的人类更深刻；而且，关于信息生态的观念，可能在机器超级智能那里已经深入“机蕊”，[3]应当不用担心智能或思维达尔文主义泛滥。

其次，不仅生物智能体是次生智能体的基础，而且智能进化机制具有重要的互补性。在机器超级智能的理性中，人对于它们就等于自然对于人，没有人类就没有智能机器人，即使已经有了超级智能，一旦人类灭绝，机器超级智能也将失去生存和发展的基础，就像没有了自然界，甚至没有了动物或植物，人类就失去了生存和发展的基础一样。而更重要的依据还在于：同为智能体，同为信息方式的存在，人类智能和机器智能越来越是同一个类，而这一点不是一个人工智能会不会与人类智能是同一个类的问题，更根本的是关乎人工智能能不能成为可与人类智能相比拟的高级智能体的问题。

最后也是最重要的，在智能进化的更高层次，作为信息方式的存在，信息的共享本性使得人类和机器之间不存在你死我活的物能资源争夺。由于与信息的本性不同，物能只能分享，在物能文明时代，主要作为物能存在的人类个体和社会之间，只要存在物能资源匮乏的状态，就始终存在资源争夺，而且在根本上具有有你的就没有我的物能式争夺。作为一种共享文明，信息资源不仅不存在物能资源意义上的匮乏，相反会因共享而增生。即使在机器智能和人类智能之间，原则上也不存在物能资源意义上的生死争夺。因而，作为一种智能文明，信息文明发展到一定阶段，主体既可以不是单纯以生物为载体，也可以不是以单纯机器为载体的智能，而越来越是载体不断更新的智能体。

3.人工智能与人类智能的承续问题。

尽管明显反映过早，人工智能还远未达到构成人们所担忧的那种威胁程度，但人工智能的发展所引发的担忧并非杞人忧天。因为人工智能的发展之所以那么牵动人心，很大程度上是因为它所涉及的，将是人类革自己的命。

随着发展层次的提升，人类进步越来越来自前提性反思。以往人类的前提性反思主要针对自己的观念、思想、理论以及思维方式和行为方式等进行，人工智能发展到超级智能出现的可能，将使人类更进一步涉及自身存在方式的前提性反思。在这个意义上，人工智能的发展涉及人类自身的革命。

人类已经接近涉及由自然人类向非自然人类的发展问题，人们对此多少已经意识到，但还没有足够的思想准备，理论准备则还没有真正开始。科学技术的发展越来越清晰地表明，越是接近引发人本身革命的科技发展时代，越需要有哲学和科学一体化发展才能更具体地提供安顿心灵的精神家园。人工智能的进化凸显了信息的进化，信息文明的发展已经到了需要新的理论准备的阶段。面对人工智能的发展，人们拥有两种相对的认识和态度是值得庆幸的事情。关于人工智能发展的悲观和乐观两极观点，形成了一种重要张力，促使人们在这两种观点之间思考更多更现实的可能性。

科技发展的前景是无可限量的，由于人工智能和人类文明的发展更可能的方式是交融进化。人工智能的发展和人的发展将使我们不得不思考这样一个问题：人类的生物体繁殖是传承，这种传承依靠的是人口生产，那么，依靠人类思想生产的人工智能发展是否也可以是人类的某种传承方式？如果说人工智能是人类思想生产的结果，如果机器智能只能在生物进化智能的基础上生成和进化，那么人工智能不管进化到什么水平，其发展是不是人类的延续？这是在人工智能生成和发展的形势下，为人类的心灵安顿做精神家园准备必须讨论的重大问题。虽然按照传统的理解，这些问题的讨论似乎具有某种科幻性质，但这正是哲学和科学一体化发展必定出现的现象。关于这些问题的讨论，不仅对于当下人生活的安宁不无助益，而且越来越是不可缺少的。

面对超越人类智能的机器人，其创造者也许更有后嗣感，离机器人的创造者越远则更可能越具有异类感。这就深入涉及机器与人的关系问题，说到底就是人与技术的关系问题，只是问题的焦点集中到了智能上。正是人与技术的关系，决定了人类文明的走向乃至人类的命运，人们必须为此作好理论准备。

人工智能进化的实质是信息进化，即信息体发展的层次提升。智能进化的当代发展过程将表明，人类并不以生物载体为其不可替换的根本。以生物为载体的人类只是自然人类，生物体属于智能的初级载体，随着智能的发展，更高层次的物能利用将为智能发展创造更有利的条件。因此智能载体的升级换代是智能本身发展的必然结果，人类不会因为生物载体被替换而不复为人类。

因此，人工智能的发展更可能将是人类智能的延续，而不是并行发展才可能有的人类智能被超越和可能被替换甚至被消灭。主要立足于物能存在，就必定把生物体意义上的人口再生产看作是人类的唯一延续方式，而主要立足于信息存在，则会将思想意识意义上的再生产也看作人类延续的方式，而且是作为信息体存在的人类进化更为根本的方式。正因为如此，科技伦理既要为防范人工智能发展对人产生威胁提供伦理警醒，特别是人对人工智能的邪恶利用；同时随着人工智能和人本身的发展，人类迟早还必须准备不仅为科技进步，而且为自身的发展提供伦理支持。