奇点还是拐点：2018年人工智能人文类图书述评

2019-03-27陶锋

中国图书评论 2019年3期

陶锋

2018年，人工智能发展持续火热，自2017年我国发布《新一代人工智能发展规划》以来，如何健康发展人工智能已上升至国家战略层面。人工智能與思维、脑科学以及未来哲学的跨学科研究，人工智能在法律、经济、管理等社会层面的应用，成为专家学者的重要议题。

2018年有数百本人工智能书籍被译介至国内，除了技术类书籍外，人工智能人文类图书亦引发重大反响。笔者经过梳理，发现这些书讨论的议题主要集中在两点：技术爆炸与社会变革。因此，笔者借助《奇点临近》中的关键词“奇点”以及经济学中常用的热词“拐点”来概述这两方面：人工智能技术的出现，将预示着人类科技史上的重要革命，这种变革前所未有，影响力轻则如弗洛里迪（L.Floridi）所说的人类科技史上“第四次革命”，重则如库兹韦尔（R.Kurzweil）所构想的是宇宙发展的新纪元，因此将之称作“奇点”；而这种技术上的改变，引发了社会全方位的改变，决定了未来社会的发展方向，所以视为“拐点”，不过这个拐点，是预示人类社会继续高奏凯歌、一路昂扬向上，还是就此堕入尘埃，直至土崩瓦解呢？不同的学者众说纷纭。

一、技术奇点：人工智能革命

（一）奇点

“奇点”（Singularity）说的倡导者，著名“技术家”（笔者称之为技术家，因为他们不仅有技术专家的知识和实践，而且能像哲学家、科学家那样上升至“技术思维”层面，如图灵、明斯基、霍金斯、泰格马克等人）库兹韦尔在《奇点临近》中为人们描绘了这样的蓝图：“奇点是未来的一个时期：技术变革的节奏如此迅速，其所带来的影响如此深远，人类的生活将不可避免地发生改变。虽然这个纪元既不是乌托邦，也不是反乌托邦的形态，但它将人类的信仰转变为生命能理解的意义；将事物模式本身转变为人类生命的循环，甚至包含死亡本身。”[1]库兹韦尔在书中提到，根据“加速回归定律”，人类的技术将呈现指数级的增长，最重要的三项技术：遗传学、纳米技术、机器人技术将会彻底改变人类社会、人类本身以及宇宙的智慧形式。他将宇宙发展分为“六大纪元”，我们即将来到的第五纪元是“技术和人类智慧的融合”的纪元，而未来，人类将超越身体和大脑的限制，将人类智慧在整个宇宙中进行广泛传播。库兹韦尔根据现有的医学、遗传学、生物学和纳米机器人的进步，推测未来的人类可以更长寿而且更健康。而最重要的是，人类的大脑可以被扫描出来，甚至可以上传到网络或者计算设备中，人的身体和大脑可以被替换，人成为机器人，或者说，机器人成为人。[1]288

笔者认为，库兹韦尔的奇点说一方面指出了未来人类生命和智慧的发展方向，即不断地超越自身的生物有限性，另一方面，则高估了技术发展的速度以及忽视了自然的制衡力量。库兹韦尔提出的技术增长是指数级的，这是根据计算机硬件的摩尔定律，但是硬件的增长不代表着软件（包括人类的思维革新）的增长也是指数级的。库兹韦尔曾预测，到2020年，纳米机器人时代就会来临，人类大脑的全面扫描也能实现，然而，迄今为止，这项技术的实现还是遥遥无期。技术的革新，除了自身硬件的发展，还受制于生产力、社会关系、经济基础与思维范式的影响。试想，我们将核设施放在非洲某个不发达国家，他们能够保证技术的顺利运转吗？

沃尔什（T.Walsh）在《人工智能会取代人类吗？智能时代的人类未来》中提出了针锋相对的观点，他认为，“不会出现有些人所说的那种失控性指数增长。更大的可能是，我们要靠自己给思考机器的大部分智能编程。这将需要大量的科学和工程工作”[2]。也就是说，机器人永远无法脱离人类而独立。他从逻辑、技术限制等方面批判了“人类本位说”“元智能说”“收益递减说”“智能限度说”“计算复杂性说”以及“模拟大脑”的可能性。沃尔什说，我们要制造智能机器，但是我们的任何智能理论，可能都无法解释智能。那么，技术家们是怎么看待“智能”的呢？

（二）智能

“人工智能”（ArtificialIntelligence）一词，引发了哲学家与人工智能专家的长久争论。哲学家的重点是“智能”，智能被理解成人类特有的认识能力，是心灵中最重要的能力，有时候也可以理解成整个心灵。康德将心意机能分成知、情、意三种，而其中的认知机能包括知性、判断力和理性。机器若要具有智能，它还需要有意识，甚至有自我意志，才能算是真正地拥有智能。

而智能在科学家和技术家那里则有不同的理解，他们大多将智能视作一种解决难题的能力。如泰格马克（M.Tegmark）在其著作《生命3.0：人工智能时代，人类的进化与重生》中提出了一种意义宽泛的智能观点：智能就是“完成复杂目标的能力”[3]。智能和计算、信息一样，是没有物质形态的，“因为它独立于物质层面而存在”。这种独立性意味着，“人工智能是可能实现的：智能的出现并不一定需要血肉或碳原子”[3]88。泰格马克作为物理学家，进一步从整个宏观物理层面，来解读目标一词。他认为目标与事物混乱的程度———“熵”联系紧密。大自然的目标就是服从“耗散驱动适应性效应”（dissipationdrivenadaptation），而生命则是通过复制来帮助更好的实现耗散，走向死亡（热寂）[3]388。机器当然也具有目标，我们设计机器时，就是让其具有“目标导向行为”的。从这一点看，机器似乎是具有智能的。对于强人工智能的标志———意识，泰格马克认为，意识如同气体、液体这些物理形态，是粒子组合在一起的“涌现”[3]397，意识是一种信息整合度，是在部分之和统一为整体的过程中出现的。意识和智能一样，也是一种独立于物质的模式。既然如此，人工智能也是能够拥有意识的。更进一步，自由意志就是一种“目标导向的决策行为”，而这种决策行为是可以从无目标的确定性物理定律中涌现出来的，“任何有意识的决策者，无论是生物还是人造物，都会在主观上感觉自己是拥有自由意志的”[3]411。泰格马克将智能、意识与目标紧密联系在一起，而机器之所以具有目标，是因为它们是人设计的，所以，人工智能时代的到来，意味着人类进入了生命的3.0阶段。生命在1.0阶段（生物阶段），软件和硬件纯粹靠进化得来，而在2.0（文化阶段），硬件仍然是进化而来的，而软件很大程度上靠的是设计，3.0阶段（科技阶段）通过人工智能以及人机结合技术，实现了对硬件和软件的全部设计，人终于可以超越进化了。笔者认为，泰格马克所谓意识源于涌现，并不能推论出意识就能从机器中涌现出来，而智能独立于物质，也不能断言硅原子就能替代碳原子，从而产生智能。

和泰格马克对智能的定义相似，“人工智能之父”明斯基（M.Minsky）在《心智社会：从细胞到人工智能，人类思维的优雅解读》中将智能定义为：“我们的思维中包含着一些程序，让我们可以去解决那些我们认为困难的问题。”[4]技术家的特点在于他们的“技术思维”，即从实际的技术实践的角度，来推出普遍之原理。这也无怪乎明斯基将智能视作可以分解的程序，他反对那种认为整体大于部分之和的“完型论”和整体论，因为这样，就无法通过分解程序来完成智能的分析了。我将明斯基称作“人工智能届的康德”，因为，他和康德都是将人的认识能力视作可分析的，并且具有先天的认识框架，因此，人们也可以为人工智能预先设计这种框架，这体现了早期的人工智能系统———符号主义的思路。明斯基区分了智能体与智能组，智能组是多个智能体的层级组合，而智能体本身是不具备智能的。目标也可以分成若干子目标，然后分别予以解决。人类的学习方式包含四个部分：统一框架（uniframing）、积累（accumulating）、重新构想（reformulating）和转变框架（transframing）。框架理论是明斯基提出来的重要思想，我们可以看到，明斯基的知识框架，与康德所建立的认识结构有异曲同工之妙。而对于情感，明斯基则干脆认为就是一种思维，情感有助于我们实现某种目的。明斯基将情绪、感情（爱、恨）、感受（口渴等）、欲望（性欲）等统统视作情感，并将之与目标实现联系起来，这显然混淆了情绪、欲望、感受与情感的区别。而且有一些情感也未必就是与目标相关的，比如康德所说的审美快感———一种形式的快感。

从此书中，我们可以看到典型的“技术思维”，明斯基常常举出一些机器实例，如“差异发动机”，来说明机器是如何解决目标、意图等问题的，从机器推向人的认识功能，“差异发动机的说法是目前为止关于目标、目的或者意图最有用的概念”[4]84。他还将大脑视作拥有传感器、存储器和识别器的智能装置，等等。“技术思维”非常有力地论证了人类的部分智能确实可以用程序模拟出来，笔者认为，这种技术思维可以很好地补充哲学思维的不足。但是，必须指出的是，明斯基的书中，也出现了不少逻辑论证的谬误，如他将创造性简单地视作不可预测性，还从儿童画的例子，来论证儿童思维与成人思维的不同。另外，由于成书于20世纪80年代，明斯基未能重视基于统计的机器学习技术，因此更难以预想到大数据和深度学习让人工智能走向了第三次复兴。

另一位人工智能专家莱韦斯克（H.Levesque）则以明斯基等人的思想为基础，在《人工智能的进化：计算机思维离人类心智还有多远》一书中提出了符號主义人工智能与连接主义人工智能结合的想法。连接主义人工智能以神经网络为主，目前最热门的深度学习技术是其最新的发展，莱韦斯克称之为“自适应机器学习”（Adaptivemachine learning，AML），符号主义人工智能又被称作“老式人工智能”（Good oldfashionedAI），前者是建立在大量数据分析的基础之上的，而GOFAI重视的是常识设置。作者指出了基于统计学人工智能的两个缺憾：首先是不能像人一样通过语言学习。作者认为人类学习方式有二，其一是通过经验学习，反复接受经验数据并多次试验；其二是通过语言学习，“这种情况可能只需要收看或收听一次相关数据就能达到目的”[5]。后者与AML的统计数据不相关。其次，对于统计学上的“长尾理论”———也即是罕见的个体事件，却会对整体产生巨大的影响，AML对此也束手无策。

莱韦斯克引用了另一位人工智能奠基人麦卡锡（J.McCarthy）的观点，认为人工智能“只有成为基于知识的系统，才能达到人类智能行为的级别”。[5]143这种“知识表示假设”意味着我们只能事先给机器实现设计好知识，使得它具有一定的知识框架，才有可能具有哲学家丹尼特（D.Dannet）所说的广义的意向性———“意向立场”，这是一种复杂系统（包括生物和非生物的系统）所持有的意向态度。也只有将智能系统建立在知识基础上，才能回答“图灵测试”的强化版———威诺格拉德模式问题（WinogradSchemaquestions），让机器能够回答一些只有基于常识和语境才能解答的问题。作者所说的AML和GOFAI的争论类似于古典哲学认识论上的经验主义与唯理主义的争论。与康德调和这两种争论一样，作者也认为AML的统计学方法和GOFAI的知识基础应该统一起来。笔者由此想到，国内人工智能专家钟义信也提出，只有将三大人工智能流派（符号主义、连接主义与行为主义）统一起来，才能实现真正的强人工智能。

（三）超级智能的威胁与应对

除了在研究流派上划分人工智能，人工智能还可以按照智能程度来划分。如哲学家卡普兰（J.Kaplan）在《人人都应该知道的人工智能》中提到了最广为人知的两种观点：“弱人工智能”观点与“强人工智能”观点。他认为，强人工智能观就是认为机器能够并最终一定会拥有心灵，而弱人工智能观点则认为机器只是在模拟而不是复制真正的智能。[6]沃尔什则做了如下区分：“弱人工智能、通用人工智能、超级智能和强人工智能”[2]79，他认为通用人工智能并不一定“拥有思维、具备意识”，这只是通向超级智能的一个过渡阶段。蔡斯（C.Chace）在《人工智能革命：超级智能时代的人类命运》中将人工智能分为“狭义人工智能”与“广义人工智能”（超级智能）。书中提到，博斯特罗姆（N.Bostrom）在其《超级智能》（2014）一书中提出了实现“超级智能”的因素，即“创新力量”与“顽固系数”之比。博斯特罗姆还针对人工智能专家做了一项关于“广义人工智能”实现时间的调查，认为在2022年之前实现的专家占比为10%，2040年之前的为50%，2075年之前的为90%。[7]也就是说，绝大部分的专家都认为等于或超过人类智能水平的人工智能是可以实现的。

笔者综合各种意见，将之分作：弱人工智能、强人工智能和超级智能（superintelligence）。弱人工智能指的是能在半监督或者无监督的情况下完成人类预先指定的某一类任务，如工业机器人、无人飞机、扫地机器人等。强人工智能可以进一步分成通用人工智能与有意识的人工智能。通用人工智能可以通过自主学习，完成多种类的任务。但是自主学习和完成通用任务不等同于产生了意识，所以如果真的要像人类智能一样，还必须对自己所做的事情产生意识以及反思，这并非如明斯基所说的对之前思维的记忆，也不是像泰德马克所说的“目标导向的决策行为”，而是包含了一种情感、抉择、价值以及文化在内的主动行为。是从机器自身出发思考问题，而非仅仅被动地执行人类预设的程序。而超级智能则是对强人工智能的超越，它意味着人工智能已经彻底超越它的创造者———人类的束缚，走向了自主、自由和自律的阶段，所以，不必在“超级智能”中加上“人工”二字了。

大部分人工智能人文类著作中，都写到了强人工智能以及超级智能实现时可能会对人们带来的威胁，并提出了一些限制的想法。笔者将之划分为三种：（1）预防：预先置入伦理和规范、建立“友好人工智能”的标准；（2）监管：严格监督与控制人工智能；（3）放弃：放弃一些会对人类带来不可逆的、普遍威胁的技术。

“友好的人工智能”（Friendly AI）最早由尤德考斯基（Eliezer Yudkowsky）提出，“是指目标与我们相一致的人工智能”[3]345。而人工智能是否能和人类目标一致，即使一致，是否可能以牺牲他人为代价或者以不道德的方法去实现目标，这都是我们要预先考虑的问题。因此泰格马克在《生命3.0》一书中提出，我们要预先考虑如何让人工智能与我们的目标保持一致，他提出了三点：（1）让人工智能学习我们的目标：如让机器从行为中推断目标，以及逆向增强学习，即通过观察人类的行为，来构建关于人类偏好的模型。（2）让人工智能接受我们的目标。（3）让人工智能保持我们的目标：给它们设置更精确的目标；让超级智能能够像人一样能“自省”。泰格马克将友好人工智能的基础建立在目标的基础上，那就很难避免用功利主义与计算主义去阐释目标和伦理，他甚至设想可以定义一种“善之函数”，去量化宇宙中的善，并将之赋予超级智能。

说到对超级智能的监管，我们首先会面临一个问题，即如何判定超级智能的诞生。超级智能的出现，可能是悄无声息的，它可能并非某个科学家和团体的发明，而是世界上所有关联的人工智能统一起来实现的。因此，我们似乎很难真正地界定超级智能，所以我们也最好提前预防和约束。蔡司在其书中提到了切断人工智能与网络以及物理世界的联系，即造出一种“神谕人工智能”，这种智能所有的通信都得由人类来控制。此外还有一种变种———“神灯人工智能”，这种人工智能平时处于休眠状态，只有人类守卫者才可以唤醒它，它与前者的区别在于，它是有自主权的[7]157-158。蔡司的这种设想有些像人类对于核武器的控制，但是问题在于：一方面，超级智能的出现是不可控的，另一方面，不能联网的超级智能就不是超级智能，人类也没有必要发明它。

还要一种可能则是放弃某些技术，库兹韦尔在《奇点临近》中认为，我们要做的不是“广泛放弃”，而是“细粒度放弃”，即放弃那些会对人类产生不可逆的、巨大危险的技术。笔者认为，人类应该对自己的权利和理性进行限制，任何科学技术都不能做出损害人类共同体利益的事情，我们对于人工智能技术，应该像医学界对人类生殖基因编辑技术那样，进行严格限制，并达成有效共识和建立监督机制。

一些科学家、技术家和哲学家在此方面已经做了卓有成效的倡导和呼吁，如沃尔什的“禁止自主武器”倡议书，而泰格马克等人的公开信，其主旨是“创造目标有益的智能，而不是漫无目标的智能”[3]46。

不論库兹韦尔描述的奇点是否真的会到来，人工智能技术的变革已经引发了广大专家的思考，我们面对的不仅仅是智能的挑战和技术的威胁，还要面对技术所引发的社会变革，我们所处的社会在加速发展，经济、法律和社会的新问题也将层出不穷。

二、社会拐点：人工智能带来的社会大变革

（一）伦理、法律的变革与挑战

人工智能首先带来的是伦理问题，这可以分为两方面，一方面就是人工智能本身能否成为道德主体，是否应该自主负起责任？另一方面则是人工智能给社会、给人们带来什么新的伦理和法律问题。

我们先来看看第一个问题。人工智能的出现，使得人类第一次面对自己创造的智能体———一种非生命的智能体。对于非生命的事物，如机器、程序，我们需要考虑它们的感受吗？需要对之加以同情的理解吗？我们是否有权力赋予或者剥夺它们的自主权和存在权？有人认为，对非生命的物质，我们自然无须考虑它们的感受，正如我们不会觉得烧烤的炉石会值得同情，因为它们没有意识、感受不到痛苦，至少表达不出任何的痛苦。可是，如果人工智能程序可以表达痛苦呢？我们是否就应该对之同情？这些问题我们现在很难回答，不过伦理学和法律专家从责任伦理的角度出发，能更现实地审视人工智能的道德和法律主体地位。

伦理学教授卡普兰在其《人工智能时代》和《人人都应该知道的人工智能》两本书中，希望能预先明确人工智能的责任范围以及为其编入“遵纪守法”程序。在前书中，他提到了，人工智能和动物一样，都可以成为道德的主体，因为成为道德主体只需要“能依照公认的道德标准来控制自己的行为，并且评估行为的影响”[8]。在后一本书中，他详细地分析了现代法律中“公司”（Corporation的词根“corpus”原意为“身体”）和“法人”（Artificial Person）两个概念。他认为，可以援引公司法，让智能机器成为有限责任的道德和法律主体。但是，在成为责任主体之前，需要让人工智能拥有财产，“只要这些实体拥有财产权，那它们就可以通过许多方式变得完全独立，甚至可以在法律上完全拥有自己”[6]132。也只有这样，才能让人工智能真正为自己的行为负责，比如为受损方支付赔偿金，也才能为置入伦理和法律规范找到现实的基础，否则可能只是空中楼阁。在《谁为机器人的行为负责》一书中，作者帕加罗（U.Pagallo）从法律的角度探讨了“机器人”的代理地位，他比较了古罗马奴隶和现代机器人，认为两者有相似之处，即部分具有商品属性，部分具有人格属性。作者认为“一些类型的机器人不应当仅被视为人类互动的简单工具，而是法律领域中的适格代理人”[9]。卡普兰等人从法律中寻找人工智能的主体意义颇有启发意义，我们知道，康德也从法律中借用了不少概念，如“领地”“立法”“合法性”，等等。从认识论上较难解决的人工智能的“主体”性可否从法律和道德上的主体来推出呢？也就是说，我们可否去约定人工智能的“主体”和“意识”内涵呢？这是很值得探讨的问题。

另一方面，人工智能技术的运用，是否会给人们带来新的不公平？例如隐私权问题，人工智能的视觉识别、语音识别、智能广告和深度学习等技术需要大数据，但是这些数据的采集往往并未经过当事人的同意，例如特朗普在竞选美国总统时，就通过推特、脸书上的公开数据，精准描述选民，然后向其推送竞选邮件。不过，也正如李开复所说的，中国人工智能技术的快速发展，需要感谢国人对于一些涉及隐私行为的宽容甚至放弃部分隐私权。所以，我们并不能一味地套用已经成熟的法律去规范新兴的领域，我们只能去加以权衡，是否牺牲某些权利以便享受更优质的服务。人工智能技术在文化艺术领域的应用，还引发了著作权和知识产权问题，比如在2017年，微软小冰公开宣布放弃联合诗作的版权，以避免可能引发的著作权纠纷。在《机器人是人吗》一书中，作者韦弗（J.Weaver）详细论述了机器人程序如Siri声音的知识产权、创作的媒体内容的著作权方面的问题。作者认为应该区分人类对人工智能创作程序的介入程度，如果该程序一直需要人的介入，那么人工智能当然不具备知识产权；如果相反，程序无须人的持续介入，人工智能可以拥有知识产权，是作者或发明者，但是人工智能程序的创作者仍然能享有一定期限的知识产权[10]。另外，人工智能创作需要有大量的学习数据———人类的作品。笔者曾经对清华未来实验室的人工智能国画程序“道子”提出疑问，如果该程序学习的数据全部都是齐白石的画作，那么依此生产出来的齐白石风格的绘画，版权是否应该与齐白石所共有？这种机器的风格模仿如何与人类的模仿学习区分开来？

这种不公平还在于，人工智能可能会强化人类社会中的某些偏见和歧视，甚至引发人类的信任危机等。如沃尔什在其书中提出的“算法歧视”“性别歧视”“危险信号”，等等。他说：“算法有可能有意无意地歧视特定社会群体。”[2]93虽然算法作为一种工具，本身并无歧视性，但是强化了社会中已有的歧视，如算法的设计者以及客户的歧视，以及算法所搜集的大数据隐含了数据提供者固有的歧视。另外，人工智能研究员以男性居多，只有10%是女性，这本身也带来了性别歧视的可能。而笔者观察，在市面上流行的人工智能程序，如天猫精灵、小米音箱、微软小冰等，其身份定位和声音都以女性为主，这是否也是一种性别歧视呢？“危险信号”则涉及了人工智能非人类身份的识别，在自动驾驶、服务机器人以及文本创作程序中，应该避免人工智能伪装成人，否则不仅会让人与机器产生信任冲突，也会波及人与人之间的信任。所以，社会与企业应该达成广泛共识，让人工智能在行动时，事先表明自己的身份，以避免产生信任危机。

当然，人工智能不仅会带来伦理、法律的挑战，它们也可以在法律行业中起到简化法律程序、高效援引法律条例甚至更加公平地协助判决等作用。卡普兰认为“人工智能将重塑法律执业”，例如，人工智能可以协助客户填写烦琐的法律表格，还可以帮助律师审阅材料，而最重要的改变在于“对法律本身、关于法律应该如何表达、传播、管理和修订”[6]120。而法学教授们显然思考得更为深远，在《人工智能与法律的对话》中作者提到，我们已经进入到一个“自动化执法”的阶段，这是有助于节省人力成本，提高执法效率的。当然，机器人的自动化执法应该加以严格的限制，主要还是在预判———“利用源自无人值守传感器的信息输入在算法上确定犯罪行为已经或即将发生”、阻止并报警———“通知相应执法机关或施加某种惩罚之类的响应式行动”这些辅助性行为上[10]241。笔者认为，如果将机器和程序作为辅助工具，来增进人类执法的自动化流程，这是很好的方法，可以避免一些因人情和关系造成的徇私枉法。但是，如果将审查、判决和执行全部交给人工智能，恐怕就会出现对特例、对个体的损害，而保护每一个个体是法律的基本原则，所以法律仍然需要人来做最终的裁决。

（二）重新定义我们的生活

人工智能正在重新定义我们的生活，我们生活在一条流动之河中，不同的是，这条河已經成了数据之河、电子之河和信息之河。李彦宏在《智能革命》一书中，从搜索引擎公司创始人的角度，强调了数据在我们现代生活中的重要作用。他认为：数据是有生命的，它像是我们身体的自然延伸，甚至能够组成一个数据形式存在的“我”。李彦宏分析了“大数据”的几个特点：（1）大，这是一种与传统数据的几何量级的差别。（2）多维度，“多维度代表着大数据可以对一个事物进行多方位的描述，从而更准确”[12]。（3）处理非机构化数据的能力，比如图片、视频、音频，等等。（4）具有时间性和流动性。（5）无尽的重复，这为通过穷举法来总结规律带来了可能。

除了万物皆数据之外，我们这个时代还有一个特点———就是万物互联。这不仅仅指的是互联网，还意指新出现的物联网等。发明家侯赛因（A.Husain）在《终极智能：感知机器与人工智能的未来》一书中，重点讲述了人工智能技术对传统医疗行业、网络安全、战争、金融市场、未来建筑以及人类思维的改变和革新。他结合了物联网和人工智能的发展，探讨了人工智能在万物联网的时代，如何保障网络与城市安全。人工智能还可以在金融行业如区块链和比特币领域，保障交易的安全性、决策的可解释性和行为的透明化。但是，作者也指出，人工智能以及网络技术的大发展，会导致“思维入侵”，这是在意识层面的网络安全问题。资本、政治等会通过网络、广告、邮件等来影响甚至控制人的“快速思维”，这利用了一种“锚定效应”。所以，作者提出，“只有人工智能可以保护我们免受人工智能的伤害”[13]。他认为，我们应该发展“人工智能盾牌”技术，去“抵御其他更加定制化的‘思维入侵方式”。[13]180-181

人工智能技术带来的另一个重要影响就是———万物皆可复制，特别是商品复制、技术复制和劳动力复制，极大地改变了我们的经济和管理方式。例如人工智能程序CAN可以生成大量绘画作品，诗歌程序小冰和九歌可以生成无穷无尽的诗歌。这意味着我们能免费或者以极低的价格获取艺术品。所以在《AI极简经济学》中，作者认为，“人工智能在经济上的重要意义，正是因为它会让重要的东西变得廉价”[14]。预测和决策是经济学中重要的行为，人工智能技术会使得预测变得更加廉价。廉价还在于人工智能在生产流程和企业管理中，大大简化了、标准化了程序。《机器与人：埃森哲论新人工智能》一书论述了工厂车间、后台管理、研发和创新领域以及市场中的人工智能。与以往工业化生产中的大型机械不同，现代机器人更加小巧、灵活，能够更好地实现人机协作，“这些新型的协作机器人具备感知、理解、行动和学习能力”[15]。人和机器不再是嵌入在一种纯粹的标准化工业流程，而是形成人机协作、构建有机的团队。因此，作者将第三次企业转型的标志称作“自适应流程”，与之前的标准化流程、自动化流程不同，自适应流程有着相当大的弹性，这是因为“自适应能力是由实时数据，而非预先设定的一系列步骤驱动的”。[15]XXVIII

除了对生产流程的影响，人工智能还会改变未来的工作方式，一些简单的、劳动型的工作可以被机器所取代，而另一些需要创造力的、情感的以及决策性的工作，则还需要人来掌控。李开复在《AI未来》中对未来人类的就业风险进行了详尽分类和评估，他不仅区分了体力劳动和脑力劳动，还区分了“强社交”和“弱社交”、“低技能、结构化”与“高技能、非结构化”、“优化型”与“创意决策型”等不同结构[16]。李开复忧心忡忡地指出，人工智能不仅会带来全球的财富分配不均，还会给个人带来危机：失去人生意义和目标，因失业带来的心理疾病会大幅上升。由此，笔者认为，我们亟须解决的人工智能危机并非人工“智能”上的威胁，而是在技术高速发展下，产业结构失衡、就业危机以及财富分配问题。人工智能不仅将改变我们的生活，还将改变我们的生存！

（三）中国话语

如何在人工智能时代，跟上全球发展的脚步，这是一个国家战略问题。在人工智能的技术发展节点上，中国错过了人工智能第一次、第二发展浪潮。作为一个技术后发国家，我们要吸取前人的经验教训，避免走弯路；同时，我们也要建立自己的话语和思想体系，在中国现有的经济、社会环境中发展人工智能技术。李开复在《AI未来》中指出，技术革新已经从发明走向了实干的年代、从专家走向了数据的时代。中国的新兴企业竞争力很强，政府政策也非常支持；此外，中国有着世界上最多的网民，国人具有相当大的容忍力和开放程度，这使得人工智能有了落地生根的土壤。李彦宏的《智能革命》则从百度公司的现实经验出发，论证了中国网络数据的发达，从三个方面促进了人工智能技术：（1）自然语言处理与搜索引擎。自然语言处理是人机对话以及搜索的基础，而搜索引擎是连接信息、扩大交流、共同学习的钥匙；自然语言处理需要大量的语言、语音等数据。（2）大脑计划。如今欧美各国都在开展智能大脑计划，百度公司也在开发“百度大脑”。正是由于“视”“听”“读写”等感知系统的技术突破，人工智能才能迎来李开复所说的“实体世界智能化”（perceptionAI）。百度大脑是“物料层”与“应用层”的中间环节，而丰富的大数据和开放的计算、代码平台，是百度大脑的基础[12]108。（3）无人驾驶。中国有着世界上最大的无人机公司———大疆公司，百度也在实验着其无人驾驶汽车技术，无人驾驶的基础就在于交通、路面、气候等数据的收集。

除了在人工智能技术上的中国制造之外，深度挖掘中国传统文化和社会习俗中对人工智能发展有益的方面，也是建立中国话语重要的一环。比如我们之前提到的为人工智能置入伦理规范，中国古代的伦理思想如儒家的“己所不欲，勿施于人”就可以作为各种伦理规范的基础。庄子思想中的“齐物”“大化”的万物平等思想，或许能成为赋予人工智能自主权的思想基础，而庄子对“机械”“机心”的警惕和批判，也可以引发我们对技术奇点论的反思。从《列子》中的“偃师造人”和传说中的“木牛流马”故事，也可以一窥中国传统文化中对“机器人”“自动化”的浪漫想象，中国古代并不缺乏人工智能和机器人发展的思想资源，只是缺少科技发展和创新的实际动力和环境。而这种动力，在当今的中国，正是上至管理者、下至老百姓的众心所向。

综上，从2018年的十几本有代表性的著作中，可以一窥学者、专家们对人工智能发展的重视和担忧。人工智能技术的加速发展，使我们不得不思考技术与社会、智能与意识、功利与伦理、人性与人工等问题，也促使我们必须跳出“人类中心主义”“生物中心主义”的限制，从“后人类”“超生命”的角度去看待人工智能。当我们看着自己创造的事物，日渐成长，有一天可能吞下意识的“苹果”时，我们是将它们驱逐出伊甸园，任其野蛮生长，走向毁灭，还是提前切断网络、拔掉电源，尽早放弃？恐怕我们很难舍弃人工智能技术给我们带来的各种生活便利和社会进步。那么，我们也不得不咽下被机器所取代的苦果，忍受被机器打败的屈辱。技术的奇点必然带来社会的拐点，人工智能革命也必然造成社会的大变革，我们准备好了吗？

这些著作大部分是科学家、技术家、法学家和经济学家所写，里面不乏真知灼见，引人思考。但同时我也想指出，在人工智能图书汗牛充栋的时期，我们写作者也要反思，不要成为“人工智能上帝”的“经院哲学家”，人工智能人文类图书中充斥着太多的想象和预言，我们无须过多讨论一个笔尖能站多少位天使的无聊问题，而应该关注更多的现实问题，更多地了解技术发展情况，人文学者应该多与技术专家进行交流沟通，学习理解“技术思维”，才能避免夏虫语冰的情况出现。

[基金项目：国家社科基金一般项目：“阿多诺哲学中的语言思想研究”项目阶段性成果，编号：16BZX118，阶段性成果。]

注释

[1]R.Kurzweil.奇点临近[M].李庆诚，董振华，田源译.北京：机械工业出版社，2018.1.

[2]托比·沃尔什.人工智能会取代人类吗[M].闾佳译.北京：北京联合出版公司，2018：105.

[3]迈克斯·泰格马克.生命3.0：人工智能时代，人类的进化与重生[M].汪婕舒译.杭州：浙江教育出版社，2018：67.

[4]马文·明斯基.心智社会：从细胞到人工智能，人类思维的优雅解读[M].任楠译.北京：机械工业出版社，2018：73.

[5]赫克托·莱韦斯克.人工智能的进化：计算机思维离人类心智还有多远[M].王佩译.北京：中信出版社，2018：85.

[6]杰瑞·卡普兰.人人都应该知道的人工智能[M].汪婕舒译.杭州：浙江人民出版社，2018：86.

[7]卡魯姆·蔡斯.人工智能革命：超级智能时代的人类命运[M].张尧然译.北京：机械工业出版社，2018：97.

[8]杰瑞·卡普兰.人工智能时代[M].李盼译.杭州：浙江人民出版社，2016：78.

[9]乌戈·帕加罗.谁为机器人的行为负责[M].张卉林，王黎黎译.上海：上海人民出版社，2018：9.

[10]约翰·韦弗.机器人是人吗[M].刘海安，徐铁英，向秦译.上海：上海人民出版社，2018：212.