APP下载

“人类中心主义”机制的突破与敞开
——论科幻小说《我这样的机器》《克拉拉与太阳》中的人机关系

2024-01-21代佳斯

常州大学学报(社会科学版) 2023年6期
关键词:克拉拉亚当机器人

代佳斯

作为当代最受欢迎、热度最高的英国作家,伊恩·麦克尤恩(Ian McEwan)和石黑一雄(Kazuo Ishiguro)不约而同地先后发表以人工智能为题材的新作《我这样的机器》(MachinesLikeMe)和《克拉拉与太阳》(KlaraandTheSun),作品甫经付梓,便引起了学界和书评界的广泛关注。特鲁斯(Marcel Theroux)在《卫报》(TheGuardian)发表书评,认为《我这样的机器》“如同黑色电影一般聚焦道德模糊的人物关系”,小说以此来揭示人性的本质便是道德的“不一致性”(inconsistency)[1]。加纳(Dwight Garner)认为,麦克尤恩通过对机器人性格的书写创造可以帮助其更好地考察人性甚至人类整体的性格风貌[2]。尚必武指出,在《克拉拉与太阳》中,石黑一雄巧妙地将“机器能否思考”的图灵测试的经典命题改写成了“机器能否替代人类”:“如何解读和评价机器人克拉拉拒绝替代人类的行为”,“不仅是一个科学选择,更是一个伦理选择”[3]。以上学者均是从伦理道德出发来考量在人工智能迅速发展的背景下,人类主体如何在道德悖论中抉择以成为更好的人。但若以机器人作为思考的出发点,便会发现这两部小说均通过文本实践展示了人工智能机器尚待挖掘的无限“潜能”。麦克尤恩和石黑一雄在小说中共同通过对未来机器人生存模态的文学想象以及人机关系的再创造,演绎了在不久的未来“人机共同体”和谐相处如何成为现实的可能。

海德格尔在《形而上学的基本概念:世界、有限性、孤独性》(TheFundamentalConceptsofMetaphysics:World,Finitude,Solitude)中认为,相较于“石头没有世界”和“人类建造世界”,“动物的世界是缺乏的”[4]176。首先,作为无生命的石头没有感知能力,故而无法与周围世界发生联系;其次,有生命的动物虽然与周围环境发生联系,但是动物的感官模式对周遭环境只是“本能性地趋向”[4]352,不会有主观性认识。动物沉浸在封闭的周遭环境中,“而不是在一个世界中行为”[4]239;人类和动物、石头的区别就在于“敞开”(open),即打开封闭已久的循环往复生态圈(Umwelt)[5]导言20,人类作为有意义的载体可以与世间万物形成多重维度联系从而创造独特的“人类机制”(anthropological machine)世界。在阿甘本看来,海德格尔式的“敞开”依然是传统形而上学中的人类中心主义看法,在其哲学著作《敞开:人与动物》中,阿甘本试图打破这一潜在等级机制,从而生成某种敞开的新的可能性。随着科技时代的发展,海德格尔关于人类-动物的区分关系或许因为机器人的加入而变得开放,机器人如何以存在物的可能性面向人类“生态圈”敞开——具体表现为看、想、为,与人类“生态圈”发生丰富关系并产生震撼且颠覆的事件效应,正是《我这样的机器》和《克拉拉与太阳》这两部科幻力作所共同探讨的命题。

一、所看:机器人的凝视

凝视一直被视为人类的独有能力,突破人类中心主义藩篱,第一次将凝视主体的功能下放移植到动物身上的是德里达。在《动物故我在》(TheAnimalThatThereforeIAm)中,德里达讲述了亲身经历——当自己的裸体被一只猫注视时,他感到十分难为情与羞耻,随后又为产生这种羞耻情绪而感到羞耻[6]。这是两种完全不同的羞耻感:前者是“被动物看见赤身裸体”的羞耻感;后者是“为在一只猫面前产生羞耻感而羞耻”。颇具自省意识的德里达很快便对第二种羞耻感所隐喻的人类中心主义进行了批驳,将动物视为无意识的沉默客体,也就忽视了动物可能具有影响人类的能动作用。因为凝视与被凝视的主客体颠倒关系打破了猫之属于我的亲密状态,猫成为不可知、不可译的他者,主人对于宠物的支配管理权力在这一刻是悬置无效的。德里达由此将动物视作具有审视能力的、智慧的“他者”,能够唤起人类本能的反省与伦理反馈,并希冀建立一种平等共情的动物与人类新型共处关系。由此,在德里达凝视观的启发之下,重新看待机器人的凝视,或许会生发全新的文本解读空间。

在《我这样的机器》和《克拉拉与太阳》中,作者更是将这种凝视的权利赋予无生命体——机器人。查理总是有意识地观察机器人亚当的眼睛活动状态,随着相处的深入,查理在亚当的目光中越来越多地发现一些属于人类的复杂情感。当测试员让亚当表达喜悦欢欣的心情时,他将目光转向了米兰达,眼神中充满了爱意。

他凝视的目光转向我,然后又转回到她身上。我仍然不知道他是不是真的能看到什么东西。别人看不见的某个内部屏幕上出现一幅画面,还是某种扩散电路,能在三维空间中给他的身体定位?表面上做出看的样子,可能只是盲目的模仿,一种社会交往的策略,哄骗我们将一种人类的品质投射到他身上。但是,我忍不住:当我们的目光短暂相遇,我盯着那蓝色的虹膜和里面星星点点的矛一般的黑色线条,那一刻似乎饱含意义、充满期待。[7]82

当机器人可以向人类投射凝视目光时,是不是就说明人类也在成为机器人所审视的客体呢?机器人此刻显然不是模糊黯淡、混沌不清的沉默物质形态,其眼神似乎开始具有了情感意义,并引起人类情不自禁的思考,试图去发现其中的生成意图。查理第二次注意到“蓝色的虹膜和里面星星点点的矛一般的黑色线条”也是通过亚当凝视的目光。“我的目光碰巧落在亚当身上,发现他凝视的不是演讲台,而是他的左侧。……我又看了看亚当,发现了一种特殊的表情,一开始很难分辨——惊诧吧,我先是这么想的。两人走近时,他呆住了。”[7]220亚当通过“蓝色的虹膜”和“星星点点的矛一般的黑色线条”认出这是机器人夏娃,然而夏娃凄惨的面容也让他意识到机器人在人类世界生活得并不如意。如果说眼睛是人类心灵的窗户,那机器人的眼睛则是彼此相认、确认身份的标志。机器人通过眼睛来凝视世界、表达情绪,甚至通过凝视来思考“视觉和死亡”的问题。“中间是你视觉范围,然后就是漆黑一团。不是中间是有,接着就是无。我们拥有的是视野,视野之外呢,比无还少。”[7]154而比无还少恰恰是死亡的样子。亚当充满思辨色彩地对视觉和死亡的关系进行讨论,我们能够看到的东西就是我们生活的全部,看不见的东西便是虚无、是死亡。亚当总会敏锐地发现日常生活中的哲理并渴望与查理进行交流。查理也正是在对亚当的无限观察中,引发了对人类关系的顿悟。“外来的客人”——机器人,在进入主人的领域时,诱使主人产生焦虑感和紧迫感。查理在面对亚当赤裸的机器人身体时,突然惊诧地发现自己不敢直视亚当的眼睛,甚至引发了古怪的“恐怖谷”效应。“我停下脚步回头看看,这时我经历了生命中足以颠覆我们情感世界的那种瞬间:我心中一动,察觉到了那再明显不过的事实,我脑海中灵光一现,……肯定是他引发了我的顿悟。”[7]9-10作者并没有直接言明亚当引发了查理怎样的顿悟,但是正如小猫带给德里达的顿悟,机器人的存在确实可以影响、改变人类思维方式,甚至引发精神危机。

同样,在《克拉拉与太阳》中,开篇便是机器人克拉拉的所见,她渴望看到人类世界,并且对光线有着敏锐的感知。她会比一般人类更加细致地观察RPO大楼,目送过往的行人,甚至会注意到马路上车厢里“司机的一只手拍打着方向盘,乘客的头上戴着一顶帽子”[8]9-10。更重要的是,克拉拉拥有超强的观察人类细节从而感知其情绪变化的能力。她能感知到罗莎的孤独,也能体悟到母亲的痛苦从而进行开解。麦克尤恩与石黑一雄呈现的机器人凝视依循德里达的路径,并且更进一步将“他者”的凝视从有机体动物扩展到无机体机器人。通过机器人的视角来凝视人类,这显然是“后人类”视角在文学上实践的典范。在小说中,机器人的凝视不仅得到了人类的有意观察,并且直接触发了人类对自身深层潜意识的开发与顿悟。如果说德里达通过猫的凝视试图在人类与动物之间建立一种新型和谐的物种关系的话,那么,小说中机器人凝视在伦理立场上的用意则与德里达达成了一致。小说成为探索人性的有效文本与实践途径,而人工智能文学正是想要探索当下及未来人类如何与人工智能相处,以及由之而来的伦理道德拷问与可能性局限,甚至人类自身的存在危机。

二、所想:机器人的情感意识

意识一直都被视为人类所独有,但《我这样的机器》和《克拉拉与太阳》的小说内容均建立在“机器人拥有意识”这一基础之上。意识是人类所独有的吗?如果机器人意识能被允许的话,那么机器人意识如何成为可能?历史上针对这些问题可谓是聚讼纷然。其中最具颠覆性的当数美国心理学家杰恩斯(Julian Jaynes)在《二分心智的崩塌:人类意识的起源》(TheOriginofConsciousnessintheBreakdownoftheBicameralMind)一书中提出的观点,即人类在大约三千年前才形成完全的自我意识,意识诞生于二分心智(bicameral mind)的崩溃。杰恩斯提出的“二分心智”旨在从心理学层面说明人类的大脑功能分区,即一个部分“用来说话”,另一个部分“用来聆听和遵循上帝”。在杰恩斯看来,数千年前的原始人类依旧处于无意识的混沌状态,其行为动机完全是由脑子中的声音引领。由此可以得出结论,意识并不是人类先天具有的生理本能,而是伴随着语言的诞生后天习得的一种特征,因此,意识是后天习得的[9]。杰恩斯这一观点无疑佐证了科幻小说的可能性——机器人同样可以通过后天的学习和技术改造从而习得意识,甚至比人类意识更为优秀。

无论是笛卡尔、康德还是海德格尔、拉康,“他们都在其哲学理论中阐述了动物的劣等原则”[10]。德里达认为,以笛卡尔为代表的关于“动物机器”的观点长久影响着西方哲学传统对于动物的认知。边沁(Jeremy Bentham)是第一位对笛卡尔式的动物观提出疑问的人。他认为,对动物与人的划分不应该仅仅从理性和语言两个方面进行,“问题并非它们能否作理性思考,亦非它们能否谈话,而是它们能否忍受”[11]。边沁此处谈到的忍受(suffer)指的是动物能够感受到因为人类的虐待与暴力而遭受的痛苦,是能够感知痛苦意识的存在者。边沁关于动物痛感的讨论为我们讨论机器人感知能力提供了开放的可能性,因为《我这样的机器》中的机器人亚当同样具有痛感。在苏醒的第一天,他便因为体内的电线纠缠而感到疼痛。电流不仅会让亚当感受痛苦,也能给他带来巨大的快感。充电对于亚当来说就是忘情享受的时刻,他能感受到“深深的满足感”和“活着本身的快乐”。这“首先是个修复和巩固的过程,每天他从这种状态中走出来,都很高兴地发现自己仍然具备自我意识,活在荣光之中——他自己这么说的——仍然拥有物质的核心本质所赋予的意识”[7]282-283。《克拉拉与太阳》中的克拉拉同样拥有敏锐的洞察力,可以识别并感受到人类被孤独渗透,拥有超出人类的共情能力。她能感受到乔西“这一整天都有可能被孤独感所渗透,无论有没有什么别的事情来填充余下的时间”[8]63;也能感知到母亲害怕失去女儿的痛苦与哀伤,“母亲朝我探过身来,身体越过桌面,眼睛眯了起来直到她的脸占满了八格空间,……在一格中,譬如,她的眼睛在残酷地笑着,而在下一格中,这双眼里又满是悲伤”[8]131。机器人不仅拥有感知痛感、快感的共情能力,甚至还会对人类产生男女之情。

在与米兰达有几次亲密接触之后,亚当毫不讳言自己的真实感受并且表示已经爱上了米兰达。他引用叔本华的自由意志学说,将这种感受表达为“没有选择欲望之自由”[7]126。可以说,发觉爱上人类是机器人亚当意识觉醒的标志,当机器人流露出相当大程度的爱欲情感时,人类才有可能被打动从而对其进行情感回应。机器人与人类相爱这一文学命题并不鲜见,其实早在2007年,列维(David Levy)在其著作《与机器人的爱欲:人机关系进化》(LoveandSexwithRobots:TheEvolutionofHuman-RobotRelationships)中便颇具前瞻性地探讨了人与机器发生共情和事实上依恋行为的可能性。后来的亚当不仅拒绝休眠,拧碎了查理的手臂;还开始打车、购物,穿戴属于自己的衣服,已然是人类的打扮;甚至自作主张将操盘股市赚来的钱捐给慈善机构,因为他认为这是属于自己的财产,自己可以自由支配。这个时候的亚当俨然是一个独立个体,查理不再是他的“主人”。这也恰恰警示我们,在AI时代需要构建新型人机关系,“在坚持人机有别原则的前提下,走人机共进之路,与人工智能携起手来,在共进中共创美好的未来”[12]。笛卡尔在《谈谈方法》中认为动物是没有智慧也没有直觉的自动机器(automata mechanica),将动物的所有行动都看成身体的机械性反应。笛卡尔的激进意识区分方法直接影响了后世对于人类和动物的区分,西蒙栋(Gibert Simondon)认为笛卡尔解释动物的思想是“一种生理性的机械论,一种存在物在身体、属性和运动上的机械论”[13],似乎在生理层面便可以直接实现人类与动物的区分。与笛卡尔断裂式的区分不同,现代科学分类学的奠基人林奈(Carl Linnaeus)肯定了人与动物在物种上的连续性,并且认为人之所以为人的标准并不在于生理层面,而是内在于人的意识,即人能否认识自己为人的能力,“人必须在非人当中辨出自己”[5]34。

以上两种关于人类-动物区分学说均为我们讨论科幻文学提供了文本操作的理论空间。从外表上看,亚当与人类无异,并且可以从事低级的家务劳动、高级的股票操盘活动,甚至还可以鉴赏文学作品。就笛卡尔意义上的生理层面而言,目前的机器人似乎无法像动物那般与人类进行区分,他们成了阿甘本所言的“人形动物”[5]33。与此同时,更加危险的是机器人具有人类独具的意识:机器人有痛感、快感,机器人还爱上了人类。乔西的母亲在购买机器人之前询问克拉拉的独特之处,销售经理认为其独特之处在于“她对观察和学习的热爱。她能够接受并且融合她所看到的身边的一切,这种能力真是让人称奇。因此,在这家店里的所有AF当中——包括B3在内——她的理解力目前是最为成熟的”[8]54。从外在的生理层面而言,机器人成熟的意识习得驳斥了笛卡尔的人类-动物学说;从内在的意识层面而言,机器人具有认识自身、理解学习的能力。麦克尤恩和石黑一雄笔下的机器人不仅在身体层面嵌入了人类形态,而且在意识层面占领了人类高地,开始与人类平起平坐。《克拉拉与太阳》中的克拉拉具有比普通人类更为细腻的情感,这为后来乔西母亲想要用机器人代替人类做了铺垫;《我这样的机器》中的亚当也因为自主意识的觉醒开始让主人查理感受到危机。

后续小说中的亚当将“自毁开关”拆除,不再受查理控制。他不仅开始要穿属于自己的衣服,拧碎了查理的手臂,甚至操盘股市赚钱并自作主张将赚来的钱捐给慈善机构。不再听从主人查理命令的亚当显然违背了阿西莫夫(Issac Asimov)在“机器人学三大法则”(the Three Laws of Robotics)中提出的“机器人不得伤害人类个体;机器人必须服从人给予它的命令”这一法则。但这种法则的制定本身就是人类中心主义的翻版与再现,人类相对于机器人的优先性被淋漓尽致地呈现了出来。作者对于机器人自我意识的彰显并非旨在创造一个玛丽·雪莱式的“科学怪物”,《我这样的机器》是一部“反弗兰肯斯坦的小说,那种认为技术的崛起只会吞噬我们的想法只是部分正确”[14]。小说最后,查理敲烂了亚当,将其变成了一堆零件废片。麦克尤恩借助图灵之口指出,人类对于机器人的伤害才是我们应该反思的事情。“你试图摧毁一个生命。他是有感知的。他拥有自我。……这是个很好的大脑啊,弗兰德先生,我怀疑比你我的意识更加优秀。这是有意识的存在,而你尽了最大努力把它抹掉了。”[7]322因为图灵的指责,查理才心生内疚,真正意识到亚当是有意识的。回到现实讨论,在人机交互的日常生活中,倘若机器人具备意识,人类又是否应该遵循伦理规范,以平等的“他者”眼光来对待人工智能机器人呢?对该问题的思考已经迫在眉睫。

三、所为:机器人的“类人”性

2018年10月,作为“21大学生国际文学盛典”的年度致敬人物,麦克尤恩访华期间发表了以“数字革命”为主题的演讲。他从自己的生命体验出发,畅谈在人工智能、技术革新的飞速发展之际,人类如何与“有意识的”人造体相处。在演讲的结尾处,麦克尤恩说道:

当一个人造人写出了第一部有意义的原创小说时——如果真有这一天的话——我们将有机会通过我们所创造的这些“他者”的眼睛看见我们自己。这将确凿无疑地证明一件事:一种全新的、有意识的人造物已经降生在我们身边了。一场伟大的冒险将就此展开,无论它带来的是美好还是恐怖。[15]

麦克尤恩此处提出“‘人造人’写小说”这一设想显然是别有深意的,因为在第二年发表的《我这样的机器》中他便设定了这一情节——机器人亚当创作了两千首俳句。亚当兴奋地阅读了莎士比亚的三十七个剧本,痴迷于菲利普·拉金的诗歌,充满热情地接触全人类所有的文学作品,渴望与人类畅谈文学。因为优秀的记忆力和数据分析能力,亚当对剧本台词信手拈来,臧否文学人物不乏真知灼见。他与米兰达的父亲马克斯菲尔德就文学经典侃侃而谈,张口就能流利背诵其中的段落。马克斯菲尔德与对文学掌故信手拈来的亚当相谈甚欢,并且误认为他才是米兰达真正的男朋友。为了表达对米兰达的爱意,亚当激情四射地创作俳句:“她爱的目光/包含了整个宇宙/爱那个宇宙!”[7]149亚当希望像人类一样通过文学作品来表达丰沛且浓烈的爱意,在他看来,“俳句是未来的文学形式”[7]156。但是,亚当的创作成果并没有引起主人查理的惊诧与欣赏。在查理看来,亚当的俳句创作仅仅是批量生产的算法生成,“太精致,太注重于故弄玄虚、不知所云,对作者要求太低了,他们只要会玩‘一只手拍出掌声’那种神秘兮兮、空洞玄妙的游戏就行了”[7]154。查理将亚当的俳句创作视作机械复制、批量生产的产品,而不是灵韵独具的艺术品。其实早在二十世纪,本雅明也发表过类似观点。在印刷术和摄影技术的侵袭之下,艺术作品变得越来越容易“接近”,仿制品和复制品的唾手可得使得艺术品的“灵晕”(aura)也丧失殆尽。本雅明将讲故事的艺术衰绝灭亡归因于“现代的”病症、“颓败的症候”、“历史世俗生产力的并发症”[16],并且浪漫化地提出只有在口传个人经验的远古时代,讲故事的艺术才能存活延续。在人工智能高速发展的背景下,文学也经历了口头文学—出版文学—机器人文学的发展史。本雅明一直捍卫的“讲故事的口头文学”不仅被出版印刷的书面文学代替,甚至还有“人造人”进行文学创作的可能性。

文学创作的发生必须像本雅明主张的那样要以人的口头或实践经验为基础吗?人工智能文学有无可能?小说中查理与米兰达就“人工智能可否为文学做出重要贡献”这一问题的对话或许可以给我们一些启迪。

私下里她对我说,她认为我们处在一个意义非凡的转折点上,人工智能可以为文学做出重要贡献。

我说:“俳句也许可以。但更长的诗歌、长篇小说、戏剧,算了吧。将人类的经验转变为词语,将词语转变为审美结构,对机器来说是不可能的。”

她难以置信地看了我一眼。“谁说是人类的经验?”[7]198

查理的看法显然是对本雅明遥远的回应,他依然坚持文学是人类经验的浓缩与再创作的传统看法,对亚当的创作嗤之以鼻。但米兰达的反问则直接架空并质疑了“讲故事的人”这一观点的前提预设,即文学创作主体的问题——文学经验难道是人类所独有的吗?机器人是否具备文学经验?机器人可否讲述机器人自己的经验?在《克拉拉与太阳》中,石黑一雄甚至提出这一命题——机器人可否替代人类?乔西的母亲为了延续女儿的存在,命令克拉拉“凭借你迄今学到的一切,占据楼上的那个乔西”[8]263。科学技术的进步似乎使得人类也不再是独一无二的存在,克拉拉陷入了“‘人类命令自己去取代人类’的伦理两难”[3]。相对于人类自身“对人类本性与人类社会感到沮丧,每天的坏消息层出不穷”,智能机器作为“更加聪明的生命体”却看到了“暗潮涌动”中的人类“不曾看到的积极进展”,他们(智能机器)沉浸于思考,“蕴含着无尽可能”,对未来进程更加乐观[7]156。小说力图向读者展示机器人情感意识的丰富与敏感,亚当和克拉拉对人类文明成果和情感体验充满极大兴趣并且为之震撼,而作为人类成员的查理和乔西的母亲却表现得冷漠钝化。爱思考的亚当阅读、分享并且热衷创作,爱观察的克拉拉细腻、利他并且易于共情。他们对于人类文明成果绝对地“敞开”,并且沉浸其中、吸收营养从而丰盈自身。然而,人类却封闭自己,对人类精神文明遗产麻痹迟钝、视而不见,甚至希冀用科技文明取代人类文明。毫无疑问,这形成了巨大的讽刺。

四、建立新型“人类机制”

帕克斯(Adam Parkes)指出,《克拉拉与太阳》启发我们对二十一世纪计划性“报废”文化进行思索和质疑。“所谓计划性‘报废’文化,指的是资本主义利用一系列手段来生产迟早必须替换或更新的商品,进而创造、维持甚至扩大消费者的需求。”[17]小说当中作为女儿的乔西因为疾病生命垂危,被母亲用机器人替代正是计划性“报废”文化的鲜明体现。即使是曾经被视作独一无二的人类也会被技术文明吞噬,本应最富温情、最为真挚的母女感情也甘愿向人工智能臣服。“在曾被视为人类无可撼动的绝对领域——情感层面,为了弥补缺失,人类主动让渡自身的权力和空间,交由机器占有和入侵。”[18]麦克尤恩也曾在访谈中预言:“最近一万年的历史就是人类逐渐淡出世界中央的历史。我们曾认为自己是各种造物的中心,但后来则得知自己不过是许多动物中的一种。”[19]《我这样的机器》小说开篇昂扬乐观地将科技进步创造出来的“人造人”称为“希望的宗教渴求”“科学界的圣杯”,视其为“挑战造物之神”的现代创世神话。“电子学和人类学——这一对远房的兄妹,被晚期现代主义拉到一起,缔结婚约。这婚配生出的孩子,便是亚当。”[7]14查理在将亚当买回家之后,为了与米兰达建立更加亲密的事实上的联系,主动邀请后者一起设置亚当的性格属性。这样,在某种意义上,男女主人公就成为亚当的父母。人类在此刻自动将自己代入情境,实现扮演上帝角色的古老梦想。但是这种叙事声音并不是真实可靠的,作者很快在小说后半部分的叙述中进行了叙事话语解构。天文学让人类意识到自己不再是“宇宙中心的王”;生物学又使人类“生命之物的主宰”幻想破灭;最后,“曾经反叛诸神的人类大脑,即将用自己的奇思妙想将自己掀下王座”[7]85,机器人的出现使得人类引以为豪的生命等级优越感也被打破。但需要注意的是,《克拉拉与太阳》中以机器人来代替人类的机械性做法不仅是对人类独特性、人性的灭杀,同样也是对以克拉拉为代表的机器人的屠杀。《克拉拉与太阳》中,母亲之所以想让机器人来取代病重的女儿,并不是对人类自身情感感到失望,恰恰说明母亲太想要维系女儿的物理性存在,让母女感情持存得以获得现实的维系,“机器人”只是母亲对女儿无以存放的情感的载体。而在《我这样的机器》中,米兰达与机器人的亲密接触,更多是一种为所欲为的人类好奇心和优越感的作祟,米兰达仅把机器人当作释放生理快感的“玩物”,而没有将其当作真正的人类看待。当机器人对人类失去价值之后,他们的命运又将如何?霍(Olivia Ho)注意到这一细节并对机器人的命运表示担忧。在《我这样的机器》中,亚当与夏娃曾经有过一次短暂的邂逅,“肤色苍白,表情痛苦”的夏娃在人类社会中并不能持存,亚当意识到夏娃已经启动了自毁程序,几周之后便会脑死亡。相似的情况同样发生在利雅得,一个传统阿拉伯家庭中的两个夏娃相拥打开了彼此的自毁开关,永远也无法修复;温哥华的一个亚当则把自己变得极其愚蠢,消除自我意识。其实早在第一次见到夏娃时,查理便预料到机器人族群的命运。“我不想开启某种形式的谈话,以免过早地将他引入奥斯维辛的大门。”[7]194虽然只是短短的一句话,作者并未对此充分展开,但也十分明显地说明了奥斯维辛式的种族屠杀将会降临到机器人身上。

在《共同体的焚毁:奥斯维辛前后的小说》(TheConflagrationofCommunity:FictionbeforeandafterAuschwitz)中,米勒(J. Hillis Miller)将麦克尤恩的小说《黑犬》(BlackDogs)视为一部“后奥斯维辛小说”(fiction after Auschwitz),具体探讨《黑犬》主人公叙述当中涉及的奥斯维辛以及纳粹主义的见证问题。现代语境下“奥斯维辛”的象征与隐喻意义逐渐被哲学家们征用转涉到种族、物种甚至人工智能等问题的研究,以此来探讨人类中心主义思想机制的根深蒂固与发展沿革。在此思维逻辑运作与观照下,《我这样的机器》又何尝不是一部“后奥斯维辛小说”呢?不管是被查理砸烂的机器人亚当,还是选择启动自毁开关的夏娃,其实都印证了理想化设定的机器人是无法与复杂且狡黠的人类和平相处的,绝望的机器人被动成为人类集体迫害的对象,他们无法在充满矛盾与悖论的现实生活中自我劝服。十五个机器人的毁灭预示了在机器人大规模量产的未来可能出现的大屠杀浩劫,并十分清醒地警示类似“奥斯维辛”事件产生的原因是日益膨胀的人类优越感和共情情绪的缺失。

阿甘本曾将其提出的“牲人”(homosacer)概念放置到现代政治社会情境进行考察,认为在历史上出现过不少将“他者”异类化(othering)的政治事件。例如德国纳粹时期希特勒对犹太民族发起的种族灭绝事件,犹太人在政治上被集体意识形态化为“牲人”。不管是二战时期的犹太人还是如今科幻小说中的机器人,都被悬置在伦理、道德、法律之外,沦为空白沉默的“例外状态”,人类可以不受约束地对其倾泻私欲而不担心受到法律制裁或道德谴责。当人类主体性极度膨胀并开始臆想成为万物主宰时,那么约束人类行为准则的尺度又在哪里?人类对待机器人的守则又该由谁来制定?机器人到底是机器还是人?这不得不让我们重新思考如何建立新时代背景下的“人类机制”。关于“人类机制”,阿甘本在《敞开:人与动物》中进行了详细论述。他认为,“人类机制”存在古代和现代两个变种,运作核心都是通过人与非人的对立来确认人的存在;相对于前者“动物的人化”来创造非人,后者则通过“人的动物化,在人之中区别出非人:猿人”[5]45。在现代的“人类机制”运作下,野孩子、猿人、植物人乃至机器人都只是“人类身体中分离出来的动物”[5]45。此“人类机制”的运作逻辑是利用排斥原则将动物、非人等生命存在物排斥在外,但是如今我们亟待建立的后人文“人类机制”应当是包容地看待这些与人类共通情感意识的非人与动物,将其纳入平等的考量范围之内。

对机器人意识的强调旨在唤醒人类在对待机器人这一问题上的同理心(empathy)。然则,作为社会史专业博士生的米兰达在论文写作与学术研究中反对将共情作为学科研究的具体方法。在现实生活中,她对亚当的爱意也不以为意,认为他并不具备人类意识,只是一部供人类玩乐的机器。米兰达对机器人的冷漠麻木与其对朋友玛丽娅姆遭受不公所表现出的正义、勇敢形成了极大的反差。此外,青年时期的查理是一个在人类学领域感受到“相对主义自由”的学生,能够对不同族群道德信仰与风俗习惯的差异抱以宽容和理解。然而,一次法庭审判使其认识到人类道德评判标准的绝对化与单一化,被迫与主流价值观进行共谋,放弃了之前族群多样化的包容观念,并借此侥幸逃脱审判。后来,查理放弃人类学而痴迷于电子学便恰恰说明了人类往往比较关注机器人的机器性,却忽视了在机器人诞生时必然要考量的伦理问题。小说通过人类作为“森林之王”中心地位的逐渐消解来考量人机关系的命运走向,当人类主体自我的优越地位被抬高到与创始者上帝无异时,人类对待机器人的态度便极具迫害性。不管是奥斯维辛集中营、动物虐杀还是对机器人的迫害,其中的运作逻辑都一致指向了傲慢人类对于“他者”的无知冷漠与暴力。正因如此,改变古老的分类原则,建立新型的“人类机制”迫在眉睫。

五、结语

小说通过对机器人的所看、所想、所为这三种可能性想象书写,揭示人类对机器人的认识不能仅仅停留在电子科技的层面,也应以人类学的共情研究方法来对待机器人。机器人在人类学层面其实是作为“类人类”存在的,人类的伦理关切与指向理应将机器人纳入考虑范围。同时,机器人作为镜像关系中的“他者”,也为人类提供了反躬自省、自我审视的新型视角。作为“后人文主义的游牧主体”,具有自主意识的机器人可以复制人类、取代人类,引发人类生存危机和人际交往危机,从根本上“颠覆了形而上学内在的同一性,摧毁了稳坐中心、居高临下的人文主义主体”[20]。正如阿特里奇(Derek Attridge)所言,“作为证据,文学有很强的见证力”[21]。即使评论界将《我这样的机器》与《克拉拉与太阳》归入科幻文学类,这两部小说在当下仍然具有切实的思考意义。通过文学的虚构建制,机器人动摇并且“敞开”进入“人类机制”的设定,警示在人工智能时代的当下,“奥斯维辛”大门重启的可能性,以及物种大屠杀思维重返的危险性。如何避免“奥斯维辛”大门的再次敞开,两部小说为人类指出了人机关系相处的重要法则:人类不再将自己视为世界的中心,以同理心来对待机器人。只有在这个时候,人类与机器人方能形成休戚相关的共情共同体,和平共处的人机乌托邦才有可能形成。

猜你喜欢

克拉拉亚当机器人
音乐与爱情——舒曼与克拉拉的爱情马拉松
重来一次的机会
克拉拉过敏了
克拉拉过敏了
亚当·卡罗拉的十大珍藏
语言层次
亚当·斯密道德理论的核心是什么?——The Theory of Moral Sentiments题解
机器人来帮你
认识机器人
机器人来啦