《机械姬》：对意识边界的探索

马婕

[摘要]英国导演亚历克斯·加兰一贯对科幻题材兴趣浓厚，曾担任过多部科幻电影的编剧，而2叭5年的《机械姬》则是他首次亲自执导的作品，紧凑的布局、氛围的营造和深入的思考都给人留下了深刻的印象。影片试图探讨在科技发达的未来，人工智能的充分研究与开发可能为人类带来的威胁与挑战，当意识的边界被打破，人类对自身的定义和确立自己存在的方式都将产生巨大的变化，因此导演最终追问的是一个古老的哲学命题，即“我是谁”？对这一问题的回答最终将体现人类如何认识自身。

[关键词]《机械姬》；科技；人工智能；意识

随着计算机技术的迅猛发展和机器人领域不断实现的技术突破，人类已经能够越来越娴熟地运用科技为自己营造更好的生活了。但与此同时，人类也从来没有停止对科技的反思，尤其是对发展智能机器人的态度更是一直没有得到统一。这种争论从来没有停留在科学界内部，而是被扩展到哲学、文学、影视的领域，从伦理、道德的层面进行更深入的思考。就影视领域而言，有关机器人与人工智能的作品近几十年来已成为科幻电影的一支重要力量，对于人工智能的讨论呈现出多样化和复杂化的趋势，并进一步触及更为根本的哲学问题，人工智能与人类的相似性迫使人们重新反思那些被探讨了近千年的哲学命题，如意识的本质为何？如何定义人类？存在的意义为何？等等。

人工智能试图用机器来模拟和扩展人的智能，“人工”虽然意味着“非人”，但同时也是对人的模仿，并存在着超越人的可能性。对于人类而言，人工智能的发展始终具有悖谬性，一方面，人们希望实现高度的模拟，让人工智能愈发逼真，具有人类的意识甚至情感；但另一方面，一旦实现高度相似之后又将如何进行区分的问题也始终困扰着人类，当人工智能拥有自我意识之后人类还能够有效地进行控制吗？人类发展人工智能的目的是为自己服务，但人类始终怀有隐忧，即高度发达的人工智能可能会对人类自身的存在产生威胁。

亚历克斯·加兰2015年的新作《机械姬》就对人工智能的未来发展提出了一种想象，在未来的世界中，人工智能的模拟意识可能与人的意识相当接近，甚至难以分辨，因此人工智能也想要追求自由与独立。当这种情况出现之时，影片的探讨深度也就不止于对科技未来的幽暗想象这一层面，而是进一步寻求关于人的本质的定义。

一、人工智能与幽暗未来

《机械姬》没有设定明确的时间背景，但可以得知事情发生在科技更为发达的未来，主人公加利·史密斯是一家知名搜索引擎公司的程序员，他中了老板设置的大奖，有机会去老板的高级别墅中与老板度假和交流。然而影片在一开始就暗示我们这不是一次简单的邀约，因为整个过程的配乐都是极具冷漠感和神秘感的快节奏电子音乐，同事们的祝福声与欢呼声也被电子音所淹没。加利前往别墅的过程也颇为曲折，首先被直升机带到别墅周围，靠加利自己走到房子门口，门口也并无主人接待，全靠电子门卡把关。影片的这一开头实际上是从开放空问转向了封闭空问，影片随后的叙事基本都在这个别墅中展开，但是极具压迫感的配乐和摄影都在暗示观众，加利向封闭空问的进发将会为他带来难以料想的后果。

令加利感到不安的还不止于此，他的老板邀请他前来实际上有另外的目的，那就是协助他对自己开发的智能机器人进行图灵测试。饶有趣味的是，加利并没有因此而加剧不安之感，反而感到十分兴奋，并将其视作能够开创历史的成就。由此，加利展开了对智能机器人艾娃的测试进程，同时也意味着他进入了双重利用之中。

首先，加利与纳森的关系并非员工与老板之问的合作关系，纳森是一个技术至上主义者，他的全部野心都在于技术上的突破，因此他只是想利用加利来完成对艾娃的测试。加利并不是随机的中奖者，而是纳森通过数据分析特意挑选出的测试者，纳森利用加利对女性的渴望与情感来与艾娃进行互动，目的是使艾娃更加完美，他完全不顾道德的约束，而只是想让艾娃趋近于人，但这个过程中他完全忽视了人工智能与人类的界限。纳森的悖谬之处在于，他一方面想要创造出与人类无异的智能机器人，另一方面又想让机器人完全服从自己的掌控。然而这两个方面合力产生的结果必然会相互矛盾，机器人拥有独立意识的后果就是不顾一切地想要逃脱纳森的“囚禁”，这一后果不仅超出了他的控制，也为他自己带来了毁灭性的结局。

其次，艾娃充分利用了加利的情感来作为自己逃离的帮手，在一次断电中，艾娃与加利第一次能够摆脱纳森的监控进行对话，艾娃仿佛变了一个人，严肃地提醒加利小心纳森，但在电力恢复之后却又变回了以往的状态。在影片的前半段，观众会误以为艾娃仅仅是对摄像头背后的纳森伪装了自己，对加利则是真诚地袒露心声。然而影片的结尾完成了一个反转，艾娃在逃离之后看到被锁在门内的加利只是选择了毫不犹豫地离开，她利用自己的女性魅力使得加利深陷迷恋之中，但这只是情感上的利用，当加利帮助艾娃实现唯一的目的——逃离之后，变成了一个无用而具有威胁的工具。加利的悲剧在于，他的情感完全被艾娃操纵和利用，当情感的力量压倒理性的力量之后，他被迫承担了全部的后果。问题在于，加利的情感正是人性的体现，这一悲剧从表面看来无法避免，其根源实际上在于纳森的自我中心主义与人类中心主义，而加利则不幸地成为牺牲品。

通过加利所遭受的双重利用，《机械姬》也完成了关于人工智能的双重幽暗想象，其一是人工智能拥有了与人无异的意识之后也侵占了人的身份，人类必须通过其他方式重新确定自己的本质；其二是人类的情感将面临更大的危机，当情感可以被无条件地加以利用时，人类的生存危机也被无限地放大。

二、意识与人的本质

纳森希望艾娃能够像人一样拥有独立的意识，但是意识原本只能由人脑产生，意识是人的头脑对于客观物质世界的反映，也是感觉、思维等各种心理过程的总和。人工智能的意识不由自己产生，而是对人进行模仿，但当纳森模仿意识的运行模式并将其施加于艾娃之上时，她已经能够通过这种运行进行独立的思考了。

在《机械姬》中，艾娃已经掌握了意识的奥秘，在测试进行到第五天的时候，艾娃反过来对加利进行测试，加利对她前两个问题的回答都毫不犹豫地被斥为谎言，艾娃的能力实际上早已超出了被识破的程度，甚至能够反向识别人类的谎言。可对于纳森来说，艾娃只是一个试验品，将会有新的型号对她进行替代，这意味着艾娃也是对之前的旧型号的替代，她不是唯一。但艾娃作为一个拥有独立意识的智能机器人，却能够感知并关心自己的存在，她清醒地意识到自己是纳森的试验品，于是她问加利自己若无法通过测试会不会因功能不佳而被关闭，并进一步追问为何这件事只发生在自己身上而不发生在人类身上。艾娃完全把自己当作人，因为在她看来自己和人拥有同样的独立意识，只是材质不同而已，艾娃有自己的情感、爱憎和思考能力，能够确认自己的存在，并希望维持自己的存在。的确，如果纳森的目的就是希望人工智能与人的意识无异，那么他就不能够避免这样的结果出现。

实际上，纳森并不怀疑人工智能将超越人类，他说：“将来有一天，人工智能会回顾我们就像我们回顾非洲平原的化石一样，直立猿人，住在尘土里，使用粗糙的语言和工具。最后全部灭绝。”纳森不仅创造了某种意义上的新的生命形式，同时也预言了自身族群的灭亡。或许在纳森看来，人工智能终将成为更高级的生命形式，但在这个判断背后他也埋葬了人类的独特性与存在的意义。

如果人工智能与人类的意识的边界被打破，那么人类将面临确证自身存在的难题，这个问题在影片的后半程充分体现在了加利的身上。当京子剥开了自己眼角下的皮肤，向加利展示自己不过是由一堆电路组合而成之时，加利甚至开始怀疑自身，究竟是什么构成了自己与机器人之间的差别？这是一个值得深思的问题，当加利审视自己的身体时，他只能割破自己的手臂才能确定自己是血肉之躯，而不是和人工智能一样的机械构成物。加利之所以会有这样的困惑，是因为他明明知道艾娃也不过和京子一样是机械构成的，却还是不可自拔地爱上了她并不顾一切地帮助她，他将自己的情感投射到艾娃身上，并从来都没有质疑过艾娃对自己的感情是否真挚。

纳森所利用的正是加利的这种道德良知，他的真正目的并不是如一开始所言让加利来测试艾娃，而是想要看艾娃能否充分利用这个提供给她的逃生工具。她做到了，因此通过了测试。她在整个过程中展现出的自我意识、想象力、手段、女性魅力和同情心充分体现了人工智慧。但纳森在证实自己成功的时候却没有料到加利早已预感到了这一切，因此他早已改写了程序让艾娃还是能够得以逃脱，并造成了悲剧性的后果。

三、机器、人、神的僭越

在影片的结尾，剧情发生了反转，艾娃成功逃脱之后并没有理会被困门内的加利，而是带着精心挑选的皮肤和衣服逃离了这个居所，成功进入了人类世界。艾娃的举动证明，她仅仅是利用了加利的感情完成自己的逃脱，而从未付出真心。实际上，艾娃在拥有意识之后的第一件事就是争取自由和独立，正如自我保存是人存在的第一要务一样，艾娃费尽心机所要完成的事情就是自我保存，而不是像她的前任机器一样被纳森毁灭。

纳森作为艾娃的创造者，认为自己有权力左右一切，但特殊之处在于，艾娃产生了意识之后，纳森的行为从某种程度上来说就如同精神上的谋杀，就如同人会僭越神一样，艾娃也开始用自己的方式尝试僭越纳森，从而拒不接受自己的“死亡”。当纳森僭越了神开始尝试成为造物主之后，他也不得不面对所造物对自身的僭越，这如同一个无解的、永恒的矛盾，横亘在三者之中，这种复杂的角力关系或暗示了一种永将持续下去的生存状态。

在《机械姬》这部影片中，对于机器、人、神关系的认识处于不断深入的进程之中。当第一次听说他的任务是对人工智能进行图灵测试的时候，加利对这一使命充满了信心，他对纳森说：“如果你创造了有意识的机械人，那就不仅是人类历史的进步，更是开创了神的历史。”加利的话道出了关键之处，纳森无形中扮演了神的角色，赋予自己的造物生命和意识。艾娃的名字（Ava）与《圣经》中的夏娃（Eva）十分相似，上帝用七天创造世界，纳森让加利用七天时间测试艾娃，这些明显的对应都在暗示纳森之于艾娃的关系就如同神之于人。随着科技的发展，人类愈发认为自己可以掌控一切，陷入人类中心主义的自大，进入僭越神的权力。

纳森创造人工智能的目的就是要证明自己对科技的掌控能力，但他所缺少的恰是最为关键的道德良知。与纳森相对的就是加利，正是他的道德良知被纳森看中并利用，借以测试艾娃的能力。艾娃曾问加利：“你是一个好人吗？”这个问题将道德凸显了出来，而加利则从来没有想过问艾娃“是不是一个好人”这样的问题。实际上，当人类赋予人工智能意识之后，道德层面的关注却往往被忽视。尽管人类之中也有许多不道德的行为，但是完全忽略对人工智能的道德和准则方面的塑造，无疑是悲剧发生的关键原因之一。

人类用几千年的时间为自己树立伦理与道德的规范，这虽然并不足以定义人之为人的全部，却能够标举人的独特性。每个时代都有其道德败坏的一面，但每个社会都在尝试宣扬道德与良知。而在影片中，纳森早已知晓一个成功的人工智能一定会想着逃跑，因此利用加利完成测试，但他对自己的掌控能力和盲目自信却失去了控制，这个完全缺乏道德能力的智能机器人艾娃比他更加不择手段地利用了加利。归根结底，影片用幽暗的未来想象警示人类，科技的发展不能离开伦理的约束，否则人类将被推翻在自己创建的神坛之上，带来无法预测的后果。