科幻电影中人工智能的异化叙事与伦理省思

吴奕龙 马琳

摘要：科幻电影是对未来科学想象的影像建构，它将人类对科技和未来的幻想投射到现实的荧幕上，以社会镜像为创作基础，以艺术想象寻求未来走向，对现实映射下未来世界的伦理道德和人类自身的生存发展提供反思。如今人工智能从科幻电影中的幻想逐渐步入现实，科幻电影的艺术想象中人工智能则达到了拥有情感及自我意识的水平，电影中人工智能身份觉醒所引发的道德危机和伦理迷思是对当前现实的一种反映和警示，本文将从人机对立、人机关系和人机平衡逐层对其进行探讨。

关键词：科幻电影 人工智能 道德危机 伦理迷思

学者黄鸣奋这样描述科幻电影：“科幻电影立足于面向未来。它以‘科幻’当头，将反思科技当成自己的出发点；以‘电影’定位，致力于制造影像奇观，并以此作为自己称雄于艺术之林的特色；以‘创意’为本，打通过去、当下与未来的界限，使时空真正成为既无边无垠又具备逻辑联系的连续体。”

2022年11月，生成式人工智能平台ChatGPT的诞生，让人工智能从科幻电影中虚构性的想象逐渐成为具有现实属性的科技双刃剑。科技的两重性使人们如同身处迷城一般，对自身地位被动摇产生了恐慌，面对未来难以把握的恐惧所造成的现实困厄，人们陷入赛博空间的迷思之中。远超人类的计算能力却没有情感与道德感的人工智能，一方面撼动着一直以来人类中心主义下的伦理与道德价值体系，另一方面对人类社会发出严苛的现实拷问：当颠覆性科技的出现突破当前社会的认知水平，会对伦理道德和社会秩序造成何种影响，又将把人类带入什么样的未来？

科技发展具有一定的不可控性，如果放任其无序发展，可能会导致人类自身与科技异化，进而危及人类的生存和社会秩序。因此，如何让科技的发展始终与道德向善并行是当下人类亟须解决的问题。海德格尔关于人与科技的异化理论认为“科技发展对人体生理功能的替代淡化人的生理存在。权利政治与泛娱乐化淡化对人的精神认同，人的异化在长期中存在”。实际上，科技本身并不异化，人们在应用科技的进程中逐渐曲解了科技本质。因此，科技异化的根本原因在于科技发展中人类自身与科技的背离，而非科技本身。人工智能觉醒是科技异化的中间地带，人工智能的出现旨在代替人类进行基础性重复性劳动，从而提升效率，但由于科技异化以及人自身感知能力等方面的影响，可能会陷入身份认同的困局之中。科技异化的平衡一旦被打破，社会语境下的道德言不及义，就容易导致人类与人工智能的对立形成，最终引发道德危机。科幻电影的人工智能异化叙事有以下几种类型。

1.人工智能技术进化中的欲望原罪叙事。人类的道德困局来自自身不同尺度的道德判断过程，一套基于理性的道德，一套基于自身的情感，人类往往将自身情感凌驾于理性道德之上，因而人类发展至今并没有形成完整的道德标准，这种道德困局一直困扰人类，所产生的影响也一直伴随着人类的发展。例如，电影《西部世界》讲述未来科技可以3D打印人体的蛋白质纤维，从而制造出与人类外形无异的机器人，机器人被按照不同历史时期的不同身份编程成为接待员，人类只需要付款就可以用任何手段对机器人进行任何形式的冒犯，而机器人受伤之后人会对其进行修理甚至直接报废处理。即使在科技发达的未来世界，人类依然容易在原始欲望的支配下，打破道德束缚，腐化堕落。影片中，人工智能拥有着和人类无异的外形、认知能力，甚至感知，同人类一样有感受，有情绪。电影中人类为了让人工智能更接近真实的人类，对于科技的歪曲滥用形成了科技异化，这种异态放大了人们的欲望从而产生道德危机，使片中人工智能的觉醒与对人类的反噬成为必然。

2.人工智能技术操控下的底层疾苦叙事。马克思主义的观点认为，异化作为社会现象同阶级一起产生，是人的物质生产与精神生产及其产品变成异己力量，反过来统治人的一种社会现象。在科幻电影中，人们在构建的未来的“乌托邦”社会中由于人性、生态、科技异化等原因造成错误导向，从而演变成的一种反人类、极权或其他恶劣性质的社会形态，当科技垄断形成壁垒，社会发展为资本集权控制群众的模式。这与马克思的异化理论不谋而合，在這一概念下，人类自身的精神、欲望、思想受到控制，在制度规章消亡的情况下，最终走向整个社会层面的道德危机。电影《银翼杀手》中反映的正是这种“反乌托邦”社会，电影刻画了未来资本垄断下的社会，机器取代了人类的工作，这种经济上的不平等让极少数人掌握着绝大多数的生产资料，直接导致了资本在科技的加持下不断膨胀，道德与法律失去管控职能，资本控制者对于社会道德与秩序的破坏使道德危机成为必然。而大多数底层群体则在千疮百孔的环境下生存，个人意志被消磨殆尽，个体的精神与思想被资本掌控成为麻木的“行尸走肉”。而生命短暂的复制人在寻求个体生命意义的同时反抗至生命最后一刻，并借复制人口重述生命的意义：“我所见过的事物，你们人类绝对无法想象。我曾看见战舰在猎户座的边缘熊熊燃烧，我看着C射线在唐怀瑟之门的黑暗中闪耀，所有这些时刻终将消失，一如泪水消失在雨中，死亡的时间到了。”从而完成对人类社会道德危机的审视与反思。

3.人工智能技术监视下的道德伦理叙事。人工智能的道德判断来自两个方面：人类对其道德观设定与自身的理性判断。康德的功利主义道德判断认为：“道德规律是由人的理性所发现的，它们不受经验、感觉、欲望和社会文化的影响，具有普遍适用性和绝对性。”即以理性来构建道德观念，但人类自身对于道德有着两面性，当对他人进行道德判断时往往选择理性判断，但对自身道德判断时往往会选择感性判断，这种双重标准导致了人类自身的道德困局。例如，电影《看护中》的人工智能作为医院的看护机器人有了自己的思维模式，但人工智能缺少共情能力的弱点被放大，只能从冰冷的数据中得出结论：“当生活不能自理的患者活着的时间越久，患者家属自杀的概率越高”。从而其形成自己的道德选择，拔掉了患者的氧气瓶，造成悲剧，直到最后被摧毁，机器人仍然坚信自己的理性道德选择。电影中机器人的道德观是康德理论中的“最高层级的、建立在自由意志基础上的纯粹理性”，但在人类社会中的实践会出现道德盲区和错误的判断。当人类自身道德困境与人工智能的绝对理性判断相背，人类该如何抉择，是解除“机器人学三定律”将道德判断的权利赋予人工智能以寻求高层次的理性道德判断，抑或由人类自身决定来解决困扰人类多年的“电车难题”，决定着人工智能的未来走向。

人本主义是一种关注人类自身，致力于创造更加公正、平等和人性化社会的唯物主义理论。人类的意识形成经过了一段相当长时间的发展，当人类开始意识到自己作为一个独立个体存在时，这种认知变化导致了人类的自我意识的产生，从对自我存在的认知到高级意识，从生存与发展到道德与伦理的独立思考。而这种认知模式在人工智能领域同样具有普适性。人类的自我意识的形成经历了漫长的岁月才逐渐发展至今。生成式人工智能只经过了短短半年的发展，已经在对话和作品产出中真假难辨。因此，在人类中心主义的观念下，人类并没有准备好去接受一个更为强大的智慧体的出现，对此的态度往往是恐惧大于依赖。

《机械姬》中的机器人伊娃产生了自我意识并表现出了“人类的情感”，但缺乏完整道德观念的伊娃在自我身份认同中迷失，利用并囚禁了对他进行图灵测试的加利，杀害了它的创造者纳森，并最终逃了出来，融入人类社会获得了自由。这种“弑父”行为在人类的道德准则下是不被接纳的，但从人工智能的角度出发Ava就如同《伊利亚特》中的阿喀琉斯，杀死了自己的父亲并因此获得了神圣的力量和荣誉。在这种情况下，双方的道德观念互斥并最终形成伦理迷思。片中纳森的言论也正是人们所担忧的未来：“有一天人工智能回头看我们，就像我们看非洲平原上的化石骨架一样，认为我们是生活在陆地的，使用粗鄙语言和工具的直立猿，早晚会灭绝。”

当代社会以及未来科技的发展都将极大改变人类原有的伦理道德约束力和人类自身物种的界定，而人工智能作为人造生命的新物种也会对人类观念造成冲击，从而引发一系列伦理困境。因此，當我们讨论人本主义下的伦理迷思时，核心问题可以归结为人与人工智能的关系问题，即人工智能究竟是工具、财产还是生命？电影《人工智能》中对人机关系的多种形式进行了探讨。片中的机器人大卫被当作情感替代品和陪伴工具，儿子因病被冰冻保存，父母将大卫收养，此时的大卫并没有开启情感程序，仅有着初级人工智能的简单程序，因此会经常做出让人难以理解的事。当女主人莫妮卡决定认养大卫，随着情感程序被激活，大卫成为有人类情感的人造生命，也成为莫妮卡的情感依赖。然而好景不长，当莫妮卡的儿子马丁苏醒，两个孩子间的冲突增加，大卫在一次意外中把马丁拖入水池，导致莫妮卡下定决心放弃大卫，将其遗弃在森林里。随后的旅程中大卫在另一个机器人乔的帮助下不断追寻着自己“成为人类”的目标，片中突出了机器人屠宰场中人类癫狂的行为以及机器人之间真实的情感，当道德伦理不再约束人类，人工智能反而更接近完美的“人”，当道德伦理不再是区分人类和人工智能，伦理迷思成为“斯芬克斯之谜”。

影片的结尾，2000年后地球生态恶化，人类已经灭绝，人工智能成为更高等的生物生活在地球中，他们发现了被冰封的大卫，但大卫苏醒后依然期望着自己能成为人类小孩永远留在“妈妈”身边。影片中的大卫有着一切美德，使人类小孩马丁的缺点被无限放大，但大卫依然只是被作为人类的移情工具被无情抛弃。因此，当我们探讨人机关系时，人类复杂善变的思维与人工智能永恒不变的程序产生冲突，人本主义与伦理道德都是随着人类个体情感冲动改变的产物，而人工智能的从一而终的永恒性在人类眼里只不过是一串代码而已，人类自身情感与人工智能的绝对理性使人本主义下的伦理形成永恒的迷思并最终走向悲剧。

以发生学的角度来看，人类智能的发展源于自然进化中人脑的发展，人工智能则是通过人为选择产生的，人类的思维处理来自大脑的功能属性，人工智能的思维处理来自芯片处理器。从当下社会现象出发，人工智能加强了人类的能力并提升了效率，人类又将人工智能不断完善，二者相辅相成，发挥各自的长处并在社会生活的各个领域初露锋芒。人类的创造性和人工智能的高效性相结合，人类可以利用自己的创造性思维来设计、开发和优化人工智能，使其更加智能化、灵活和适应不同的场景和任务。同时，人工智能的高效性可以帮助人类更快速、准确地完成一些繁琐、重复或需要大量计算的任务，释放出更多的时间和精力来进行创造性的工作。

这种平衡的调和是相对现阶段人工智能水平而言的。但在科幻电影中，人工智能往往展现出更为高级的形态，从而使得人类与人工智能的关系变得错综复杂。其中，身份认同是两者难以逾越的鸿沟，一方面人类希望人工智能更完善、更趋向人类，另一方面人类对于强大人工智能的技术恐惧始终高于认同感。因此，无论是对于人工智能觉醒下的自我认同，抑或是来自创造者人类的认同感来说，都是难以解决的难题。人工智能在身处自我认同迷局的同时寻求人类的认同而不得，最终结果也只能走向悲剧。电影《机器管家》中的安德鲁、《机器人总动员》中的瓦力都有着不同程度的身份认同困局。

与此同时，人工智能即便有着类人的情感却没有现实感知，这种致命缺陷对人类而言就像一把始终悬在头顶的“达摩克利斯之剑”。人类对人工智能的恐惧不断放大最终形成身份认同的对立，当矛盾不可调和，就会形成《黑客帝国》《复仇者联盟2：奥创纪元》中对于黑暗未来的忧思。

虽然科幻电影中描写的人工智能觉醒后的自我意识在当下社会的科技环境中还不存在，但人工智能在生活中的应用日益广泛，既给人类带来了积极的影响，也带来了一系列的挑战。未来人工智能依然是重点的发展方向，完善相关法律法规，规避人工智能带来的风险，确保其健康发展是当下面临的主要问题。当前社会人工智能的发展使得科幻电影语境下的未来步入现实的速度要比想象中快。为避免科幻电影中对人工智能未来的警示，有关科技伦理的研究也势在必行。

作者吴奕龙系辽宁大学广播影视学院硕士研究生

马琳系辽宁大学广播影视学院教授

参考文献

[1][德]海德格尔.路标[M].孙周兴，译.北京：商务印书馆，2000.

[2]黄鸣奋.科幻电影创意研究系列1：危机叙事[M].北京：中国电影出版社，2019.

[3]黄鸣奋.科幻电影创意研究系列2：后人类伦理[M].北京：中国电影出版社，2019.

【编辑：沈金萍】