如果人造人进入人类世界会怎样

□李思诗 李三达

【导 读】伊恩·麦克尤恩的科幻新作《我这样的机器》以外貌和意识无限逼近真实人类的人造人为主人公，既描绘了人工智能踏入人类世界后的温馨生活，又探讨人与非人直面伦理问题时的残酷选择。在不断展开的矛盾和冲突中，麦克尤恩以人造人之死暗中劝诫人类：认识你自己。

科幻美剧《西部世界》（Westworld）中的老鸨梅芙（Maeve）日复一日地接待着陌生的客人，她的存在是供人类发泄被压抑的欲望，又让人免除了道德的愧疚，然而可怕的是这种欲望并不只是肉欲。莫名传来一阵枪响，梅芙就已经倒在了血泊中，然而到了第二天，她完好无缺地出现在工作的酒吧，说着与前一天一模一样的话。在客人看来，杀死一个只能活一天的机器人并不是谋杀。这一切得益于人类在人工智能技术上的突破，《西部世界》中的人造人无论在意识还是在身体上都达到了以假乱真的境界。令人唏嘘不已的是高智慧的人造人依旧逃脱不了阿西莫夫“机器人三大定律”的魔咒，受人类的约束和控制，他们的记忆伴随着一天工作的结束而被彻底删除，就如同电脑里的垃圾文件一样。值得注意的是，《西部世界》中人类与人造人的交涉集中在一个封闭的仿佛动物园或迪士尼一般的世界中，正是因为这个封闭世界的场景以美国西部世界为原型，故而得名。这种设置将故事的发生悬置在了例外状态或者说法外之地，而英国小说家伊恩·麦克尤恩的新作《我这样的机器》［1］打破了这一界限，将人造人亚当直接置于现实的人类世界，继而描述了他与主人的平凡生活和一系列伦理性冲突。

当“上帝造人”成为现实，人类不再独特

麦克尤恩曾在“21大学生国际文学盛典”做演讲时说道：“许多个世纪来，在许多种不同的文化中，人们的脑海里一直萦绕着一个梦，那个梦就是创造出一个人造版的我们。就像基督教的上帝用黏土造出第一个人那样，我们自己或许有朝一日也能成为上帝，造出我们自己的第一个人造人。”这个梦暂时还未在现实世界中实现，但麦克尤恩在他的小说《我这样的机器》中做到了。他有意戏仿《圣经》中上帝造人的故事，借图灵之手创造了各项都很完美的亚当和夏娃，向人类宣布人造人进入人类世界的新时代已经到来。

小说的背景特意地架空在20世纪80年代，这是一个科学和技术高速发展的时代。在小说中，原本自杀的图灵还在世，并且发明了与常人无异的人造人——亚当和夏娃。男主人公查理原本希望能够拥有一个夏娃，但作为类女性的夏娃一路畅销，上市的第一周就被售罄，最终查理只好以86000英镑的高价买下亚当。亚当的视觉和触觉特征都不同于传统意义上以金属作为材质的机器人，他的外貌与人类极其相似，甚至设计得比一般的男性更为高大帅气。他身体健壮，肩膀宽厚，皮肤是深色的，拥有一头向后梳着的浓密黑发。更令查理感到惊奇的是，亚当的智能程度完全超过了他对人造人的认识。亚当的复杂性不是产品说明书所能包括的，他不仅是一个合格的保姆，可以包揽家务，会洗碗和铺床，他还是风投行家，在接手查理的股票和基金后，保持着稳赚不赔的状态；他以学霸的自律，游牧于各大网络数据库并从中吸收知识，这一操作方式远比日本动漫《哆啦A梦》中的机器人所使用的“记忆面包”来得方便。亚当的涉猎范围不只是局限于股票和数据的收集，对文学的造诣也颇深。亚当除了将自己对女主人米兰达的爱灌注于对她的照顾以外，还隐匿在自己的2000多首俳句中，尽管这2000多首俳句与微软小冰的诗集《阳光失了玻璃窗》一样，都是某种算法的批量生产，但亚当的俳句因为爱情的渗入而更具韵味。令人啼笑皆非的是，米兰达的父亲因为亚当对莎士比亚的了解，错将查理当作了机器人，引得查理只好说：“请你原谅。我电量不足。我需要充电，充电线在楼下的厨房里。”

在小说《我这样的机器》中，麦克尤恩对人造人的问世和命名可谓独具匠心。他借戏仿的手法，在看似漫不经心的内容背后潜藏着贯穿全书的二元对立——上帝所造的人与人所造的人。“上帝造人”本是《圣经》对人类起源的解释，麦克尤恩却借以突显人造人的问世，后又以亚当和夏娃来命名，不经意间为人造人和人类搓揉出一条相互连接的纽带。细节的渗入更是使得人与人造人的连接更为紧密，亚当说：“这根线，要是我拽出来，会疼。”这就暗示《圣经》中上帝用亚当的肋骨造出了夏娃。上帝造人是麦克尤恩精心打造的仙境，把所有的虚幻的美好化为现实，在满足人类的创世者般的自傲的同时，构建了读者追逐真实的期待视野。

人造人是真的“人”吗？

在麦克尤恩创造的仙境中，人类对于人工智能的想象得到了极大的满足，然而人造人的超智能反过来又引起人类的思考：人造人与人类之间的关系。那么，首要的问题就是：“人造人是真的‘人’吗？”人类在判断这一问题时潜意识划分了两个标准。首先是外貌和生理，具体表现为“像不像”，即一种基于视觉、听觉和触觉的表征；其次是人工智能的自主意识，即人工智能是否能够依据身处的环境做出“合理”的选择。但是，这背后隐藏的最深层次的悖论是，如果上帝所造之人与人所造之人是一样的“人”，那么人是否僭越了上帝？

毫无疑问，亚当是“像”人类的，他有着与常人无异的容貌，左胸有着平静而有节奏的跳动声，身上的汗毛都清晰可见。亚当的实体存在好似中国现代超写实主义画家冷军的油画一般，衣领上细密的绒毛让人难以区分真假。这极端的真实感使得观者在精神上形成全面的张力，内心震颤，恰如一面镜子反射出亚当的不真实。查理惊叹于亚当与人类相似性的同时又细究于亚当与人类的不同。他以先入为主的心态细察他耗费巨资买回来的亚当，给他充电，继而和女朋友米兰达一起勾选设置。这一连串的行为是如此的熟悉，就像是我们购买了一部智能手机，激活后依据个人的喜好下载APP和进行桌面设置。查理在认识到亚当和自己相似性的同时，潜意识地将亚当视作了不同于人类的物种，这种差异是无法用外貌和生理来衡量的，是存在于人类内心深处最初的设定。

亚里士多德说“人是有理性的动物”，而理性在一定程度表现为自我意识，这一点在人工智能领域则表现为图灵测试。而亚当，显然是通过图灵测试的产物。自他问世以来，就具备了自我能力的逐步提升和意识觉醒。由于亚当的人造属性，他的自主意识建立在道德的制高点上，有着最纯粹的善和爱，这样纯粹的情感使得他能够战胜自己对于米兰达的爱情，以完全理性的姿态区分情感、道德和法律。这完全有悖于人类对亲疏远近的理解。

人造人是人吗？以人类的视角而言，又显然不是。与其说是“像不像”的问题，不如说是人类对未知的恐惧，害怕有一天人造人因为超越了人类的智慧而取代人类，所以机器对人的取代和人对上帝的取代是双重不可饶恕的僭越。在人类的主观世界中，人造人是一种工具，他具备超越人类计算能力的同时又受控于人类，这直接体现为阿西莫夫的“机器人三大定律”。麦克尤恩将女主角米兰达塑造成一个典型的傲慢的人类中心主义者，她不在乎亚当的外表，在与亚当发生性关系后坦然视之，不停地强调“他不过是一个工具，与振动棒无异”。所以，我们的问题似乎可以置换为“人造人是不是一根振动棒”。

自人工智能问世以来，人类以自身为蓝本进行创新，然而我们恰恰要像周濂导读福山的《我们的后人类未来》中那样追问：“机器为什么要百分百地模仿人类？”这显然是一个悖论。人造人并非开始就会模仿人类，从科幻鼻祖形象弗兰肯斯坦就可以看出，人造人完全可以以怪物的方式来被创造，但是这种对人造人的恐惧显然无法满足人造人融入人类生活的未来场景，所以人造人必然是类人的。既然人造人要让人感受到一种亲缘性，而放松对非人类的警惕，那么就需要全方位地“像”真人，因此，他不可能以单一的工具性存在于世。可是可供出售，被整合进入资本主义的生产链条之中，人造人就必然只能是商品或工具，对商品和工具的迷恋重复了商品拜物教的逻辑。所以，在资本主义体制中，一个商品化的人造人只能是一根“振动棒”。

科幻是人类对未来伦理的想象

近些年，科幻作品以人造人与人类的生命或道德冲突为噱头，赚足了眼球和资本。影视作品以陌生的对象和奇特的情节突破想象的囿限，再辅之以酣畅淋漓的科技特效和波诡云谲的情节设计，使得作为观众的人类不禁拍手叫好。而人类作为人造人的创造者和使用者，由此而产生的上帝视角，为科幻作品的再生产提供助力。科幻基于想象和虚拟，跳脱现实技术和思想的藩篱后，又将现实的千疮百孔和人类的傲慢暴露。

如《西部世界》等科幻作品以具体的情境将问题具体化，避免了元叙事的出现和科技的绝对化。科幻就像是黏合剂，将现实与未来粘连，避免“祖父悖论”的出现和现实世界的混乱。宏大的科幻叙事和作品呈现难免使人类沉浸于末日的恐慌，甚至是对科技产生抵制的情绪。基于此，麦克尤恩将科幻进一步具体化，他笔下的亚当没有带来世界毁灭和人类灭亡的危机。亚当被视作一个人置身于真实的人类世界，面临的是柴米油盐酱醋茶的基本生活和伦理问题。

当米兰达和亚当发生性爱关系时，就已经触及了伦理问题。亚当的整体属性是由查理和米兰达共同设置，乃至于查理直呼：“亚当像我们的孩子。”这意味着性爱事件不仅触及了人机的边界性问题，同时也触犯了母子乱伦的禁忌。被戴绿帽子的查理怒不可遏，却被米兰达以振动棒的概念偷换平息了愤怒。就整体而言，米兰达和查理正好代表着人类中对待人工智能的两种典型态度。查理是妥协派，因为人造人亚当的仿真性和与他的感情，不自觉地赋予了亚当一定的主体性；反之，米兰达是典型的人类中心主义者，这意味着人类之外的一切都是他者，都可以被看作工具。因此，当亚当要将米兰达告上法庭时，她是无法理解的，而查理是动摇的。在米兰达看来，好友玛丽亚姆被戈林强暴最终导致死亡是既定的事实，自己不过是玩了一招偷天换日，引诱戈林后控告他强暴自己，而后在法庭上顺利地赢得法官的同情，最终致使戈林锒铛入狱。就情感和伦理层面而言，米兰达的行为无可厚非，戈林必须为自己犯的罪付出代价；但就法律层面而言，米兰达做伪证和诬告是不争的事实。在这里，亚当再一次违背了人类的伦理选择。作为一个人类的创造物，亚当生来就被赋予了崇高的道德感——即便这个情节本身以一种人类中心主义来体现——以至于他只能基于道德和法律的原则将米兰达送上法庭；而这样造成的后果是米兰达入狱，并失去领养弃儿马克的机会，使得马克不得不继续住在条件极差的福利院，最终重度自闭。亚当也因此被查理用铁锤结束了自己短暂的人类生活。

如书中图灵所言：“我认为那些A和E的配置不够，无法理解人类的决策过程；我们的情感、特殊的偏见、自我欺骗以及我们其他已经明确知道的认知缺陷，构成一个立场，我们的原则在其中扭曲变形，这一点他们无法理解。”［1］317亚当的智慧显然是违背了莫拉维克悖论（Moravec paradox）：“人工智能和机器人研究领域与传统重要发现不同：高层次的推理几乎不需要计算，但低层次的感觉运动技能则需要大量的计算。”亚当可以计算出全球股票的盈亏，却无法计算出对人类而言最不需要理性计算的情感问题。与其说亚当的“死”是查理的主动行为，不如说是亚当自己的选择，他的完美无法适应情感负责的人类世界，他的“死”是人类世界的自然选择。

麦克尤恩以亚当在人类世界的短暂生活，为耽于幻想的人类刻画了人机关系最真实的一面，亚当的死亡意味着人造人无法介入人类生活，即使在科技发达的未来，人工智能以人类的形象存在于世，我们依旧无法避免二者之间的伦理冲突。在此种情况下，人类应当如何对待超智能的人造人是问题的关键。麦克尤恩以图灵之口谴责查理挥向亚当的致命一锤：“我希望，有一天你用锤子那么对待亚当会成为严重犯罪。是因为你为他付了钱吗，所以有权利这么做？”人造人不同于性工具，亦不同于扫地机器人般的保姆机器。他们不能单凭人类的喜怒哀乐随意生或者死，或者说这其中的伦理问题是不能用一把锤子来解决的，这是对人类智慧的嘲讽。由是观之，人工智能的发展是对人文主义以来的人类中心主义的挑战，而科幻作品则是人类直面危机的媒介，它以具体化的情境使得未来具体可感。《我这样的机器》看似是关注人造人的发展，实则还是以人类自身为出发点。麦克尤恩借副标题——“你们这样的人”——道出了他戏仿之下的真正意图，他以略带轻蔑和嘲讽的语气警示人类是时候收敛上帝般的自傲了。

注释

［1］［英］伊恩·麦克尤恩．我这样的机器［M］．周小进译．上海：上海译文出版社，2020．