科幻关于机器人的技术反思

梁小聪

莱姆科幻剧《忠实的机器人》

《忠实的机器人》是莱姆的一部鲜为人知的科幻电视剧。该剧于1963年首次出版于莱姆的电视剧和戏剧集《月夜》。但早在1961年，这部作品已经由波兰著名电影导演、剧作家、编剧、现任华沙电影学院院长雅努什·马耶夫斯基改编成了一部科幻戏剧，搬上了波兰电视台的电视剧场荧幕。随后该剧还登上了苏联、捷克斯洛伐克、德国等国的戏剧舞台。

《忠实的机器人》讲述了机器人格劳梅尔秘密制造人类并谋杀主人的故事，氛围幽默，行径诡异。故事发生在2000年的一天，作家克莱普内尔收到一个无名包裹，里面装着一个名叫格劳梅尔的机器人。它虽花言巧语，但待人真诚，细致体贴，服务周到。渐渐地，作家对机器人的态度从抗拒转为接受，并认定它为“忠实”的仆人。殊不知，机器人格劳梅尔正酝酿着一个天大的“造人”计划。它以主人名义订购“造人”材料，偷盗主人衣物，并为罪行撒谎。一次聚会上，警官夫妇和出版社老板夫妇谈起一桩在逃机器人谋杀案：一个精通各门学科知识和生活技巧的在逃机器人将自己打包寄到人类家中，意欲制造一个完美的真人类！这天，格劳梅尔终于完成造人，取名提普，并宣称自己和房子都属于提普。作家和提普为机器人和房屋的“所有权”吵得不可开交。这时，机器人的阴谋因一个制造破绽而彻底破碎。“忠实”的机器人借机毒杀二人，然后打电话请求送一个快递纸箱上门……

莱姆《忠实的机器人》中，机器人格劳梅尔究竟是个什么形象，为何会做出说谎和谋杀的行为，“机器人造人”的故事背后到底映射了怎样的忧虑？

机器人的“奴仆”功能与形象

机器人格劳梅尔任劳任怨，一丝不苟地照顾主人的衣食住行。可见，机器人在作品里首先执行的就是服务人类的功能，第一印象就是忠诚能干的“仆人”形象。1921年，恰佩克在《罗素姆万能机器人》中首创“机器人”（robot）的概念。它源于捷克语的“robota”，意为“苦力”或“农奴制时代的劳役”，可译成“人造奴”。（林歆：《机器人的诞生与人的神化——纪念<罗素姆万能机器人>和“机器人”概念诞生100周年》，科普创作评论，2020年第3期，第26-28页）若溯源西方早期类人机器人形象，不难发现机器人作为“奴仆”的轨迹，其中包括中世纪时期德国大阿尔伯特用皮革、木头、蜡和金属制造的“机械仆卫”，“它依来者意图决定是否放行”。这跟《忠实的机器人》中的机器人格劳梅尔的行为相似：他会根据主人对来客的喜好来选取酒水的品质，又或是以启程拜访教授为由让主人“脱离苦海”。因此，可以大胆猜测莱姆从大阿尔伯特的机械仆卫形象中获取了一定的创作灵感。

机器人的说谎、叛变与谋杀现象

阿西莫夫提出“机器人三定律”，规范人机伦理，降低机器人毁灭人类的可能性。然而，在机器人科幻文学或影视作品中，常以机器人反叛作为故事转折点。机器人叙事视角从机器人忠实的“奴仆”形象转变为了凶残的“弑主者”，这也是19世纪下半叶机器人科幻作品的重大转型。如安布罗斯·比尔斯的短篇小说《莫克森的主人》（1899）中的下棋自动机因输棋恼羞成怒杀死制造者等。莱姆的《忠实的机器人》中，机器人格劳梅尔因计谋败坏而毒杀主人和自造人提普。

机器人说谎是叛变的前兆。而机器人说谎，是一个有趣的文化现象，是说谎者有意识地扭曲事实来掩盖罪行的行为，但欺骗效果则取决于谎言接收者是否相信或接受。（赵勇、王瑶，《会说谎的机器人——科幻电影中人工智能的“作伪”表意》，科普创作评论：2021年第1期，第31页）那么，莱姆笔下的机器人格劳梅尔为何能达到其欺骗效果呢？首先是主人已经对机器人产生了较严重的迷恋和依赖心理。克莱普内尔在家庭工作上都依靠机器人，机器人的存在俘获了人类的心，取代了主人的能动力。此外，机器人欺骗可归纳为三种形式：外部状态欺骗、表面状态欺骗、隐藏状态欺骗。其中，第三种“隐藏状态欺骗”可理解为背叛的一种形式。后来又有人提出“完全欺骗”和“部分欺骗”的分类方法，但无论哪种类型都与谎言接收者的意识和潜意识紧密联系：人类通常都有“自愿终止怀疑”或“自欺欺人”的想法。如此看来，《忠实的机器人》中的主人也一直在自我欺骗，即使后来得知格劳梅尔就是警察局一直在缉捕的机器人，也愿意替它隐瞒真相。在此催化剂作用下，机器人说谎、反叛和谋杀便来得更加简单了。

机器人造人背后的技术忧虑

常见的科幻作品通常都是描述“人造机器人”，而莱姆的《忠实的机器人》里，竟出现了罕见的“机器人造人”。在人工智能生命进化过程中，人性缺陷极有可能带来难以估测的失控结果。（齐佳敏，《机器人为何杀戮？——析<莫克森的主人>中的人工智能生命观》，广东外语外贸大学学报：2021年第2期，第110-118页）机器人格劳梅尔的理想是创造一个“完美”的人类——这一想法不得不让人产生对技术的焦虑和恐慌，而弑主机器人的形象也不得不让人反思技术失控带来的后果。但与此同时，莱姆笔下那个怪诞的未来世界里，不仅充满了人类对技术的不可控发展的恐惧，还能发现大量的自动机、机器人等人工智能产物自身的恐惧。在《忠实的机器人》中，出版社老板表示，机器人犯错并非机器人自身的错，其罪在于创造它们的人类工程师身上——人类应该改善它们，而不是责罚它们。莱姆描绘的世界里，人类有时对他们创造或购买的服务型机器人始乱终弃，这种人机关系被称为“遗弃式爱慕关系”或“电子家政服务关系”，这种相处模式会导致机器人惊慌失措，甚至发疯失控。《忠实的机器人》中，格劳梅尔讲了这么一个睡前故事：从前，当世界上还没电时，山里住着一个善良的胖子和蒸汽机器人。清晨，机器人会到森林里拾干柴、摘蘑菇、给主人做早餐。一天，森林里出现了一个怪物，身上支着两把大铁钳，躲在了树的背后。当机器人走到他面前时，他哀求道：“我是个孤儿，在这世上一无所有，只有这一对钳子了……”可见，在科幻文学世界里，不仅有人类对于机器人失控的恐惧，也有机器人本身对于被人类抛弃、“生命”垂危和未知外界感到的恐惧。也许，莱姆笔下的机器人格劳梅尔“造人”、谋杀，只是因为在人类世界里感到不安与害怕吧。

结语

虽然莱姆的科幻剧《忠实的机器人》在国内知名度不高，但其文本中展现的机器人奴仆形象、机器人说谎和谋杀行为、机器人造人现象，都体现了莱姆对科技发展、人类本性的哲学思考。莱姆是一位悲观主义的未来学家，他自稱是个有远见的保守派，强调自己与所有的极端事物格格不入，无论是技术主义，还是技术恐惧。他认为：“生产或人际关系领域的每一个前进的步伐、每一个新的举动，通常都会带来一些迄今为止尚不可知的不便、威胁与罪恶。”如果这部科幻剧也能搬上中国戏剧舞台，不知会有怎样的反响呢？