欲望与理性的思辨：《流浪地球》中的人工智能伦理意识探幽

韩贵东

(大连理工大学 人文与社会科学学部，辽宁 大连 116000)

科幻电影在内容生成中，从多个层面与视角为观众展现出了艺术家思维世界中伦理反思，也进而在精神指向的内涵层面，将人工智能时代伦理问题困境表述出来，其所以指代的本位对立在于现实世界中人的功欲与理性之辨，体现在“人”“机”对立过程中的矛盾意识以及人工智能社会中的“和解”表征，继而从对国产科幻电影的关照之中，可以审视郭柯导演团队创作中的人工智能伦理问题。

科幻电影中的人工智能产物往往是主体、客体对于身份认同与确认的争执过程，既表现在“他者”思维的AI思考层面，也强调在场者的身份“自我关照”。在电影《流浪地球》中郭柯导演将人工智能的主体设置为具备人体意识思维的AI机器人MOSS“莫斯”，其作为人类智慧结晶的智能存在客体，是整个电影中火种计划的具体监督者与执行者，当然在伦理表现中的莫斯是思维接近于人类意识的存在，故而影片中说，MOSS没有消失，只要数据存在，MOSS就存在；所以在表达中，影片设置的莫斯是没有生命期限，没有认知局限；剔除了感性思维意识，独留理性算法；MOSS总能在最短的时间内做出最正确的决定，MOSS是趋于完美的智慧体。在太空中生存的刘培强中校成为了人类与人工智能沟通的主体存在。然而电影中最为深刻的冲突设置表现在电影最后戏剧化的“人”“机”矛盾处理中，刘培强亲手用一瓶伏特加烧毁了莫斯，这里编剧更为意识化的让莫斯留下一句台词，即“让人类永远保持理智，确实是一种奢求”，进而引发出在国产科幻电影人工智能的伦理思辨问题：人机二元对立的存在矛盾。俄国科学家维尔纳茨基和法国人类学家德日进认为：“人生活在由人工创造的文明世界中。”[1](P10)而人工智能体作为人类思维意识的集合，实际上背后的伦理担忧即是人类自身生存发展中的对峙、冲突、斗争、缓和、自我认同等一系列问题。

一、欲望与理性的伦理忧虑

在科幻电影之中，人工智能体作为人工智能技术运用的结晶，其背后的意识与思维受制于技术发展的水平，往往也表现出了差异性的维度。从技术之维来反观国产科幻电影中人工智能体的创造，不难看出其具备理性与欲望相互辩证的伦理关系。马克思说：“各种经济时代的区别，不在于生产什么，而在于怎样生产，用什么劳动资料生产。”[2](P204)因而在技术迅猛发展的时代，人工智能依靠技术的数据支撑完成了众多创新性的项目命题，在电影《流浪地球》中所出现的人工智能体本就是技术想象的认知与实践反思之间的存在。

理性主义的哲学思辨本身就是伦理问题的探讨，因而反观数千年来的理性启蒙，从亚里士多德到黑格尔、笛卡尔、克尔凯郭尔、海德格尔等，理性思维的强大信念使得众多的文化进入理性启蒙的伟大时代，而正是对于现实问题理性化、祛蔽化的思考，才使得我们所生活的社会有着更为公理化的存在。然而在技术发展的理性时代，对技术工具化甚至玩具化的使用倾向，却也使得技术理性嫣然成为工具理性的代表，最终在对技术理性趋之若鹜的使用中，引发更多的伦理问题，这显然是有违技术理性目的化的初衷。

在电影《流浪地球》中，莫斯作为人工智能体的代表，其不仅为整个火种计划提供了具体的执行方案，还成为其流浪地球的监控者与数据大脑。拥有大数据智能化的莫斯显然是刘慈欣科幻作品序列中重要的智能媒介载体，然而电影的讲述过程中，导演有意识的为我们呈现出了人类与人工智能之间的伦理矛盾。刘培强中校在家庭伦理的纠葛过程中，将个人主观意识有意识的投射于莫斯身上，莫斯作为人工智能体，其背后的智能社会，实际上就包含了伦理关系复杂的矛盾。莫斯与刘培强中校即人工智能体与人类作为同处在宇宙空间中的存在，其本质属上的融合就是一个复杂、多变、异化、阻隔、依赖、毁灭的过程。

电影中人工智能体与使用者之间的伦理矛盾早已是影视表达中一以贯之的命题。从早期1927年上映的《大都会》到1968年的《2001太空漫游》再到2019年的《流浪地球》，无论是早期科幻弱智能时期的作品，还是今天强智能时代的代表，无一不为我们展现出了“人”“机”关系在理性与欲望伦理思索中的命题。这些经典的影像作品中，诸如哈尔9000、莫斯等人工智能体使我们看到了人工智能伦理的问题，反客为主化的角色置换将人类与被发明的人工智能体矛盾表露无遗。从主仆关系的依赖到人工智能体自我意识的出现，再到对人类社会的抗争以及对自由的寻求，最终确定主体意识直至毁灭的整个过程中，人工智能原本创造美好蓝图的想象不在，取而代之的是技术至上伦理次之的科技理性，一味的为了满足人类本身的某种欲望与功利目的现实借口，本末倒置的技术理性最终也沦为文明发展的欲望之幌。

罗尔斯顿认为：“附丽在机器上的价值完全是工具性的，它来自于创造这些机器的人。但是，附丽在有机体上的价值却来源于自发的自然系统所具有的、非派生性的真正的自主性。[3](P143)毋庸置疑，在技术理性的视野之中，人类无休止的欲望，使得人成为人工智能体存在于现实世界中的映照与身份确认者。《流浪地球》中的莫斯在弥留之际，留下一句让人深省的话：“让人类永远保持理智，确实是一种奢求。”的确，人类作为主体存在的社会中，人工智能无非是一种技术附庸而存在的，人类的理智往往是被欲望所替代，甚至是欲望掌控了人类本身，而诸如莫斯一样的人工智能体却成为人类为满足自我私欲、丢弃人与人工智能契约的殉葬品，从伦理视野的维度看，人类甚至可以不用承担毁坏人工智能体的原罪，而习惯了上帝视角无所不能的伦理抱负，如此看来欲望与理性的矛盾化将是人工智能与人类相伴相随的伦理表征。

二、主体性伦理的缺失与辨思

主体性伦理的探讨也是人工智能体与人类关系的重要问题。在通常意义上的人工智能体是可以根据主体意识有无、多少、强弱来进行分类的。人工智能体的主体性意识来自于人类还是其在完善过程中具有的来自于环境的主体意识，一言以蔽之，就是作为人工智能体的机器人是否是具有主体意识而独立存在的道德个体。计算机伦理学创始人摩尔根据机器人可能具有的道德影响力，将其分为几类，分别是:道德影响力智能体，是无论行为是否有意义但具有道德影响力的智能体；隐含的道德智能体，是具有道德的智能体隐含在其设计的考虑因素(通常指的是安全因素)，可以对特定情况采用一些自动的道德反映；明确的道德智能体，能够识别和处理各种情况并对应该做什么作出合理决定的智能体；完全的道德智能体，指的是像人一样具有意识、意向性和自由意志等特征，并能对各种情况作出道德判断[4]。

在电影《流浪地球》中，人工智能体莫斯作为郭柯导演设置的矛盾角色存在，当刘培强中校最终决定利用空间站点燃火星时，其切断了空间站与地球之间的通信，莫斯作为人工智能体是有编程的伦理作为基础的，因而其设置的程序指令是为了保证空间站的安全，单从人工智能的初衷来说，莫斯并没有违反人类预设的程序，但刘培强的伦理逻辑在于其亲情维系的根本，矛盾的关键在于莫斯被人类的使用者所毁灭，主要原因是因为刘培强从发动机故障开始，将莫斯的行为定义为“叛逃”，而不再是往日可靠的科技“助手”。所以对于主体性伦理问题而言，这里的莫斯作为AI机器人是充当了人类使用者的助手？亦或是成为个体空间管理者的主体？也正是在这一问题上的影像视听表现使得人们对于莫斯的存在位置出现争议。

莫斯的出现使得AI机器人成为新时期的管理者，这是一种影像的角色预设。在电影中莫斯作为刘培强的AI助手，不仅可以关闭全球的通讯设施，更是多次干扰了刘培强联系联合国政府，并可以在执行紧急预案后，要求所有宇航员进行休眠状态，当最后看到刘培强并没有履行指令时，则采用智取的方式，循循善诱般将其强制进行休眠。表面上看，这种“间接”对人类主体进行发号施令的人工智能体已经僭越了人类身份的主体地位，但从某种意义上而言，莫斯在对事件的判断中，是准确且符合程序设定的。莫斯背后的一切是来自于科学的推理逻辑与算法大数据规则。对于点燃木星上的氢气这一方法，莫斯通过运算，得出不成功的结论。但其作为人工智能体所难以与人类主体达成共识的原因在于，人类在遇到某些亲情或者伦理捆绑的现实难题时，往往会选择极端化的死亡路径来解决问题，所以这种非常规的行为使得人工智能体与人类有所区分，也使得矛盾的关键得到披露即何为主体的伦理性问题。

莫斯作为明确的道德智能体是否真的具有主体意识？刘培强所定义的“叛逃”是否意味着莫斯具备了人类的主体意识？刘培强与莫斯的主体性伦理之争是否可以认定为人类就是正确的？答案显然也是在郭柯预设的剧情中的。在电影中，莫斯决定放弃地球，然后带着精神的群体寻找新的适合人类生存的家园，这种“叛逃”的背后一切都是联合国的决定，并且在电影剧情中，将“火种计划”设置为最高权限。因而莫斯并非是罪魁祸首，他只是存在于联合国授权后的一条程序命令，并非是其独立思考的设定，所以莫斯仍旧是联合国官方程序下的人工智能体。但其作为人工智能体依旧免不了与人类最后的冲突，问题就在于莫斯的程序设置是权力所有者的程序思考，而并非是刘培强本身情感的投射，这是人类技术理性出现欲望满足的伦理冲突。

所以在主体性伦理的问题上，人工智能体难以独立成为道德个体而存在但又在某些利益人群的主体意识指导下，促使自身成为人类意志的执行者。

三、责任伦理的换位与放大

当人工智能体与现实环境诸多的因素出现矛盾和争执的时候，势必会引发关于责任伦理的探讨问题，而责任伦理即当使用人工智能体某些原因的遭到故障时，应该追究谁的责任？其所造成的破坏是否是由人工智能体的设计者，程序者编创者亦或是使用者来具体负责对接。同时在某些利益的趋势下，应不应该将事故责任放置到人工智能体本身？这些有关责任伦理的问题都是为使得人工智能体成为了今天发展研究的焦点，在崇尚技术的时代，人工智能体理应需要有技术哲学思维的考量。

在电影《流浪地球》当中，刘培强与人工智能体莫斯之间的关系，由开始的助手最终转变为叛逃者的角色定位。当地球遭受引力影响，即将撞击木星的时候，联合政府毅然决定放弃地球，而人工智能体莫斯则遵从程序指令，携带着地球生物的基因，准备飞离太阳系。而在此期间，吴京所饰演的刘培强，发现了莫斯对地球的飞离行为，将其定义为“叛逃”。其为了儿子刘启，为了某些生生不息的希望，他最终选择终止与莫斯的联系。在电影的剧情设置当中，刘培强摧毁莫斯的手段是将其主控室的摄像头破坏，并未将其主体的存储芯片加以毁坏，相比计较于《2001太空漫游》当中的情节，其矛盾冲突的行动元，显然有不相符合的地方，但最终的结果却是其亲手将人工智能体莫斯终结。刘培强作为人工智能体的使用者，是否顾及到了责任伦理的问题？或者说刘培强是基于某些家庭伦理情感的问题，做出了如此的反应，而莫斯没有反抗的留下了令人反思的话语。这些表现几乎都与责任伦理的问题息息相关。

对于人工智能体的与使用者的关系来讲，需要有一套相应的责任分配体系，既可以保证人类既定的权益不受影响，又可以将人工智能体发展带入一种良性的发展循环。也正是对人工智能体与人类的创造者之间责任的具体分化定义，才可以更好的贯彻落实人工智能责任原则，人工智能体的机器人只是辅助人类生产生活的工具，无论它是否具有意识，是否享有权利或者作为独立的道德体所存在，它始终应遵循“不伤害”原则[5]。

在不伤害原则的前提之下，能够针对已有的人工智能事故，完成责任的细分，制定一套标准化的责任赔偿体系，以责任负责机制，贯穿人工智能生产的整个过程，既有研发者，也有开发商，甚至有消费者之间的责任定位，根据不同的事件程度，量化责任个人。而不应该出现问题时，一味的将所有的矛盾核心推卸到技术的弊病中，当然也要在相应的产品换代设计中，通过哲学伦理的某些思考和引导，使研发者和创造者个人及遵循相应的伦理准则。

对于人工智能伦理的思虑，已经有学者指出：“在科学家族中，没有一门学科比AI与哲学的关系更密切……许多没有出路的AI 研究，只是因为对哲学家昔日的时代一无所知，才得以维持。”[6](P486)所以从某种意义上来讲，人工智能的伦理问题，绝不仅仅是一个技术主导，谁为主体或是客体的问题，本质上应该是当代人自身思考的一种映照和折射，是人本身思维的反应。因而对于人工智能伦理的发展，应该具备人文思维的哲学维度，尤其是在当下电影工业美学盛行的影视创作中，应当在伦理承诺的前提下，表现主体道德焦虑——一种发自主体的自觉的道德焦虑[7](P88)。道德焦虑按照弗洛伊德的说法是“超我”与“自我”之间的一种紧张关系，个体感觉违反了自己最初的价值或道德标准，“超我”则产生内疚、羞愧、自卑的心理，进而产生一种自我救赎的冲动，并在电影情节中外化为一系列行为和动作。而正是对人工智能伦理自我反馈的一种道德焦虑，才可以引发进一步的道德自律，最终期待解决人工智能的伦理忧虑问题。