阿尔法狗，黑镜及其他

邓建华

一

在这个讲求“专业精神”的时代，人文领域的工作者在对技术问题发声之际，总会有各种顾虑。但是正如波普尔的学生阿加西在《科学与文化》一书中所论述的观点：科学是文化的一部分，它并不与人文学科天然对立。如果说人文学者关注的是人类的情感、信仰这些“非理性”领域，那么今天的人文学者必须面对的核心问题之一正是人在技术时代的处境。

互联网时代不但提供了各种迅速汇聚信息的搜索引擎，也为人与人之间的

沟通带来前人难以想象的便利，在中国更是兴起了以马云为成功典范、全民狂欢式的O2O（Online to Offline 线上线下模式）的电商经济。这是我们的时代，它造就了我们的生存方式。然而，对于互联网时代的批判与反思都尚且无法尘埃落定之际，阿尔法狗大败李世石的棋局也让全世界对人类未来有了更新的认知：无论我们是否已经做好准备（显然大多数人没有），人工智能所裹挟的未来似乎已经降临。

在西方文学史上，我们能清晰地触摸到技术的烙印：漫长的中世纪是19世纪浪漫主义者眼中的黄金时代，是他们的乡愁与乌托邦。尽管征战连连，普通民众的生存条件恶劣，但那毕竟是持续了千年的“稳定”状态。在这样的时代，生活的变革并不剧烈，一个人的世界就是父辈口中的那个世界，它不会在某一天变得全然陌生。这是工业时代（机械时代）对农耕时代的缅怀。而我们的时代给世界带来的“陌生化”，比起工业时代而言则有过之而无不及。技术的频繁更新（各种补丁、最新版本的下载通知）仅仅是其“变革”力量的冰山一角而已。一方面是刚刚用熟的工具，还没变得趁手，已然变幻了模样；另一方面，则是我们自身随之发生的改变。以博客—微博—微信朋友圈的更新为例：仅仅在十年之内，无论空间距离如何遥远，人们的即时交流已经如此方便，而人的表达方式也已经全然不同。这一点，从行文篇幅急剧缩短、配图的日益丰富都表露无遗。同样是互联网，为人的各种烦琐事务决策提供了充分的信息源，但是海德格尔有关人在技术时代被“预置”的担忧却成为事实：一位母亲在为自己的孩子挑选保姆之际，可能非常感谢家政公司的清晰网页与详尽资料，但是“保姆超市”这一称谓却很可能让她备感不适，同时让她真切体会到自己也不过是一堆“人力资源”资料中一纸信息而已。事实上，我们的父辈已经亲历了科技所能带来的巨大社会变革：网络和手机上网。很多老年人无法像年轻人一样熟练地操作电子产品，但是他们的生活由此所受到的冲击一点也不比年轻人少，而且这种冲击很可能是以负面影响居多。木心的《从前慢》一诗如果从这个方向来解读，就绝非是对前网络时代的浪漫主义抒怀，而是今天很多老年人心境的真实写照，他们在网络生活面前手足无措，并日益与年轻一代隔绝。他们用了将近一生的时间来熟悉、学习并参与其建造的那个世界消失了，或者忽然之间陌生了。

比起互联网时代，人工智能时代带给世界的变化会更加剧烈和难以想象。无论是否正视人工智能的发展前景及其对人类的影响，任何人类在技术上的重大突破，首先给予普通受众的就是心理上的强烈冲击，简言之，就是从对待天方夜谭式的不相信，到亲见亲历的难以相信和恐惧，然后再到习以为常。在交通工具的发明史上，是蒸汽火车与马车的竞赛，第一架飞机的试飞；在沟通交流的发明史上，是贝尔的电话；在毁灭性武器的发明史上，则是广岛的原子弹投放。强人工智能与超人工智能的出现所引发的心理地震，可能遵循的是同一条曲线。

虽然棋种不同，机器人战胜国手的新闻，二十年前早有报道。而阿尔法狗引发的大量讨论与关注，其焦点并非是它所代表的精于计算的弱人工智能（在某个特定领域远远超越人类但是能为人类所用），而是在它之后可能出现的强人工智能（机器在哲学的意义上变得和人一样：拥有自觉意识的机器）与超人工智能（人类无法想象之物，或人类全新的存在形式，比如人机一体）。它们不仅涉及非常棘手的人机之间的伦理问题，而且会带来一个人类进程上前所未有的悖论：我们像上帝一样创造了某物，但是它远远比我们强大，并可能在极短的时间内成为远远超乎我们的理解与想象的某物：“像神一样地永生还是像恐龙一样彻底毁灭。”这样的形而上命题在不久的将来很有可能成为现实；换言之，人类正在创造一个不可知的上帝。另外，如果人类可以造出和自己一样的、甚至迅速超越自己的机器，那么人类自身是否也是被造出的机器，人类文明的发展史，在这些发展史之中所结晶的人文主义者所珍视的一切，是否是某个被预置的实验结果？

根据强人工智能领域相关专家的保守估计，强人工智可能在2075年实现。这场变革很可能为我们以及我们的下一代所亲见与亲历。难怪跨学科的杰出人物弗诺·文奇（Vernor Vinge）说，“我们正站在变革的边缘，而这次变革将和人类的出现一般意义重大。”当然，从另一个角度（技术的不可靠）而言，前文所提出的问题也会被非常干脆地一笔勾销：不需要等到超人工智能的出现，仅仅是忠实执行人类指令的弱人工智能就可能将人类消灭。我国翻译出版的第一部西方短篇科幻小说集《魔鬼三角与UFO》所选的《机器人“俾斯麦”》说的正是这样的故事：想要减肥的一家人，定制了一个机器人，想用它超强的执行力监督全家的减肥进程。故事的结尾不难想象，机器人为了彻底执行“减肥”这一任务，在房屋周围布置了电网，一家人谁也出不去，最终因反抗机器人的专制而死于非命。

二

英国系列短剧《黑镜》（The Black Mirror）是当代反乌托邦的代表之作，其中讨论人工智能的单元非常有趣。科技问题是这部在豆瓣上评价甚高的系列剧关注的主题之一。不仅是网络时代的诸种面相在《黑镜》系列中得到了戏剧性的展示，比如偷窥、“屏蔽”等等；人工智能在人类生活中可能存在的形式、对人类生活可能造成的影响也在该剧中得到极富戏剧形式的展现。它们大致可归纳为三个主题，分别与第一季第三集（《关于你的一切》）、第二季第一集（《马上回来》）和第二季圣诞特别篇《白色圣诞》相对应。尽管第一季第二集（《1500万的价值》）是以一个虚拟未来为故事背景的，但是在科幻外壳之下，它的主题仍然是商业利益对于个人自由的收买，并从另一个角度提示了资本与技术结合的巨大能量。在下文讨论的三个剧集中，编剧对科技所持的批判与悲观立场固然一览无余，但仅仅停留在这种悲观立场的解读显然是不充分的；由这些剧集所提出和所形成的一些有关科技的“文学”（影视）叙事模式，以及它们所引发的一些问题仍然值得更一步的讨论。

人机结合：植入人脑的记忆粒

一次聚会中，丈夫怀疑妻子与一位男子有非同寻常的关系。他通过植入人头部的记忆粒，反复播放某次聚会的细节，分析画面中妻子的一言一行，妻子不得不承认这位男子不仅是自己的前男友，而且两人交往的时间也不短，并非以前她在与自己热恋期间所提到的，只是一周的短暂关系。丈夫冲入男子家中，并且逼迫其删除了涉及他妻子的回忆。但是让他惊讶的是，他居然在对方要删除的图片中发现，这位男子不仅是妻子的前男友，还是她婚内出轨的对象。他回家之后，又从妻子的记忆播放中发现这两人通奸的具体时间是在妻子怀孕的那段时间，所以孩子的血缘归属也成了问题。最终妻子带着出生不久的孩子离去，丈夫因为不堪对妻子回忆的折磨，将头部的记忆粒取出。

剧中最引人注目的不是哪一个具体角色，而是植入头部的记忆粒这种人机结合的人工智能。随着故事情节的推衍，逐步展示出记忆粒的强大功能：它能够随时随地地存储人周围的一切影像，在回放中扩大焦距、调节音量，以方便人们在回看中获取更为确切的信息；记忆粒还有即时传送影像功能，片中有人报警时警察要求报案者打开记忆粒传送现场信息；在机场时也会使用记忆粒，安检人员会要求乘客播放记忆粒某一段时间之内的全部内容，并用电脑分析人脸，查看其中是否有不安全因素；朋友聚会之际，记忆粒播放在屏幕上的画面还能为人们提供谈资或助兴。显然，这些技术在今天都不是什么新鲜事，高精度的摄像机、手机都能出色地完成信息存储、传递、回放的功能，从记忆粒上删除图像，也和从摄像机、手机等成像设备上删除图片没什么两样，唯一不同的是记忆粒被直接植入了人类的血肉之躯，成为人类认知系统的一部分。人不用按下机器的按钮，一切信息的搜集与储存就在人的行为中自然而然地完成了。即使喝醉了酒，记忆粒也会照常工作，人可以在酒醒之后看到当时究竟发生了什么事。

植入记忆粒的人，能够获得“可靠”的回忆。人固有的回忆，受到身体状况、心理等不定因素的影响，很多是不可靠的。但是记忆粒帮助人克服了这个弱点，它清晰地记录了一切。丈夫对妻子怀疑的坐实，以及得知妻子婚内出轨的真相都得益于记忆粒。记忆粒是不说谎的，它就是真相本身。因此，该剧为我们提出的问题便是：在机器的意义上延伸的人的能力（全面的信息、精准的观察、确凿的证据），是否有助于人的幸福？回忆所承载的是什么？是精微到不放过一丝一毫的记录吗？

剧中妻子有一句台词，颇能道出人类的真实处境：不真实的话并非就是谎言。没有任何一个人可以说自己没有说过一句不真实的话，更何况人际之间的关系总是复杂和微妙的。妻子的婚内出轨固然不可原谅，但是疯狂地想要找出真相的丈夫，在两人的房间中毫不留情地审问行将崩溃的妻子的场景也让人怵目惊心，更不用提妻子在承认了偷情的事实之后，还被迫播放自己极度隐私的记忆画面时的屈辱了。在那一刻，他们本来就有问题的婚姻已经分崩离析，丈夫的所为，已经僭越了夫妻间的伦理原则。

剧中特别安排了一个被人抢走（被人强行从头部取出）记忆粒的角色，借她之口说出了编剧想要表达的观点：我过了一段没有记忆粒的日子以后，发现其实还不错。太过仰赖技术的生活其实也并不可靠。聚会中一位研究记忆粒的女士就说，记忆粒中的记忆是可以被人为操控的。可见，技术的进步与完备，对人际关系的更新、改善或重建非但并无助益，而且有可能让人落入被动受控的境地。

作为真人的“替代品”：机器人可以抚慰人的情感吗

这个故事讨论的是人工智能所能提供的情感安慰。玛莎完全无法承受失去爱人艾什之痛，其后发现自己怀孕的事实更加让她崩溃。她开始和一家人工智能机构联系，该机构能够从她爱人在互联网上留下的一切痕迹中为她构建一个虚拟的艾什。“他”可以回复她的邮件，也可以在搜集了艾什所有语音资料后给她打电话。最终，人工智能为她提供了一个仿真机器人，它可以全方位地模仿她逝去的爱人。在与这个机器人相处的过程中，玛莎渐渐领悟到：它并不是他。机器人会很体贴地问她要什么，艾什却从不会做饭，大部分时间都沉浸在网络中，对玛莎并不那么体贴；机器人可以不睡觉，不吃饭，玻璃扎在手上也不流血，这些都让玛莎感到自己做了件蠢事。让玛莎完全放弃这个机器人的原因，是它完全不知道绝望的情人殉情是怎么一回事，它不知道从悬崖跳下去时的恐惧，它也不知道为什么玛莎想要命令它跳下去。而这些信息，如果玛莎面前是活生生的、真正的艾什，他用不着任何思考的时间就会明白，因为他和玛莎是具有同样情感的人类，机器没有情感，更不知道人类情感的历史。

这部短剧可以让我们好好审视人机之间的交流问题。艾什一出场，他的不成熟、沉迷网络等缺点就展露无遗。在两人相处之时，这是可能引发争吵和不满的东西。但是在他逝去之后，艾什身上的这些缺点，在一个看似完美的机器人复制版本的映衬之下，反而变得珍贵起来。仿真机器人所执行的指令是：我的存在就是取悦于你，你是我的管理者。它永远按指令行事，也就是说，玛莎和它之间不可能有真正的交流，她所得到的，只能是艾什的影像或回声。如果没有机器人，这些影响或回声，只能出现在玛莎的回忆或想象中；有了机器人，它也就是把它们活生生地演绎出来而已。

人在很多方面都被机器远远抛在后面——数据的搜集处理以及运算，但是人类的某些领域，对于遵循指令的机器而言却很难复制，如情感、直觉、审美能力、信仰等等。至少迄今为止，这些东西还无法编程。更重要的是，在这些“主观”的人类领域，不可能像计算或搜集数据那样有一个恒定的标准：越来越快、越来越多或越来越全面。很多时候，“主观”的东西总是被视为人的弱点，或不太值得看中的东西，但是与剧中的仿真机器人一对照，它反而成为人工智能领域一个很难跨越的“门槛”。人的主观性和人之所以会密切地联系在一起。如果某一天，机器产生了“人”的情感，那么无论它的外观如何，它和我们就是同伴的关系，而非人与工具、创造者与创造物的关系。

最终玛莎将机器人扔到了阁楼。这对机器人来说多少有些不公平。它的创造者是人，它的服务对象也是人。简言之，它是人的一件工具。仅就工具而言，如何能要求它与自己有真实的情感交流呢？而如果它真的具有了某种情感，玛莎又该如何自处？又如何能将之视为一件工具？它与逝去的艾什之间又是什么关系呢？人的脆弱性，正如人的不完美一样，是人类的真相。每个人都有可能在生命中体会“失去”的痛苦，安抚这种痛苦的，应该是一个与逝者一模一样的机器人吗？

意识复制：金属容器里的人类意识副本

《白色圣诞》的叙事采用了俄罗斯套娃的模式，包含了好几个故事，其中讨论的人工智能是这部系列剧中最令人感到恐怖的。虽然这种技术有几种实施方式，但其核心就是意识与身体的分离——意识的复制。当然，剧中也涉及智能眼这种与记忆粒类似的植入人体的人工智能，因前文已做讨论，这里不再赘述。人的意识可以被复制，而且在未来这只不过是一个小手术而已。在该剧的第二个故事中，一位女子就做了这个手术。复制的意识被安置在一个蛋形金属容器内，在专业人员的“调教”下，“它”明白了自己的使命：为“自己”服务！或者说，为那个被复制的意识与身体服务！这真是关于人的“自我奴役”的最佳隐喻与讽刺了。而且，这种意识复制也给哲学家制造了很大的难题。人是因为其精神力量被称之为人的。而被复制的意识在人的伦理学中应该占据一种什么样的位置呢？人可以毫无顾虑地让自己的意识为自己服务吗？或者使其成为最完美的奴役？因为这个被复制的意识是最了解它曾经所属的身体所需的。

最后的那个故事，则是专业人员如何诱使一个杀人犯承认自己的罪行。杀人犯的意识被复制出来，同样盛放在蛋形金属容器里面。专业技术人员为被复制的意识虚拟了一个场景，就是案发现场的木屋，并且虚拟了时间，他自己的意识也进入其中，以讲故事的友好姿态获得杀人犯（意识）的信任，对方投桃报李，将罪行的前因后果全都和盘托出。审问金属容器中的意识副本，远比审问现实中的罪犯本人来得容易，对一个罪犯的囚禁与惩罚，也可以通过扭曲他的意识副本的时间和空间而实现。显然，剧中已经将人自身与其意识副本等同，否则意识副本的忏悔，是无法用来给罪犯本人定罪的。

如果说前面两个故事的人工智能，还让人保有人的身体，那么《白色圣诞》中的人工智能就走得太远，直接将人的意识从它所属的身体中复制剥离开。剧中这种技术的实施指向两个目的：一是为“自己”服务；二是实现法制正义，让罪犯伏法。考量其中的伦理意义，上文所提到的问题就会一再浮现：人是否有权让自己的意识成为这样的一种奴役？人是否有权对他人的意识做这样一种处置，即使是一个罪犯的意识？显然，做手术的女子在得到自我意识的服务时极为享受；但是这份被复制的意识，最初是极其抗拒被困在金属容器中的安排的。

三

抛开剧中所涉及的伦理问题不谈，仅仅着眼于这种技术本身，也足以让人隐隐生畏。既然意识能够从身体中被复制或剥离，那么人也同样可以为自我意识找到新的身体——像仿真机器人那样的身体，或者干脆就是金属机器的身体。乍听起来，这是天方夜谭，但是在现实生活中，已经有人在做将自我意识上传到电脑，以到达“永生”的实验了。人的脆弱，人的局限很多时候都体现在肉体上。病痛，衰老对每一个人而言都是不可逃脱的命运，肉体的衰亡也必定导致意识的消失。如果意识脱离身体这种人工智能成为现实，人的存在方式就有可能发生根本性的转折。人与机器之间的界限将变得越来越模糊。为了抛弃人的脆弱与局限性，人有可能将自身改造为机器的那种样式。到那个时候，恐怕所有的文学都不再具有阅读的价值，因为文学中所描述的，正是肉身与精神兼具的人，是必然从年轻走向衰老的鲜活的身体。

科学家口中那个若隐若现的超人工智能时代究竟是怎样的？是人类在工具的帮助下具有更大更强的感知力，是翻版艾什的机器人最终拥有了自发的情绪、情感，拥有了自我意识，还是我们为自己的意识找到新的身体？这一切都无法预测。如果这样的时代的到来无可避免，是海德格尔所说的并非宿命的必然，我们所能做的，正是提出这样的问题：我们能为那样的时代做些什么？比如，在技术决定生存方式的时代，我们总可以运用我们从历史中秉承而来的人文主义的财产，去思考人与机器之间的关系。如果机器在某一天可能具有了情感和自我意识，那么人会不会在毫无追问意识、身陷技术时代之际沦为毫无反思能力的机器？从乐观的方向看，技术以及人工智能为人类开拓了生活的多种可能性，但是我们是否需要把握那个推动技术与人工智能发展的原动力——永远是想象力在推动着技术的发展；而人工智能的发展，也应该是由“想成为一个怎样的人”这个问题来推动的。

[本文受西南交通大学“中央高校基本科研业务费专项资金资助”（supported by the Fundamental Research Funds for the Central Universities）项目”A0920502051413-121”资助。]

作者单位：西南交通大学中文系

（责任编辑农郁）