影视作品中人工智能的责任主体反思

【摘要】关于人工智能的影视作品层出不穷，其中对人工智能成为责任主体的构想与探讨也呈现出多元化的丰富图景。本文通过对多部人工智能题材影视作品的分类、归纳与总结，提炼出赋能觉醒型责任主体、寄生侵占型责任主体、让渡交融型责任主体三种主要责任主体类型，根据不同的责任主体类型，承担责任的方式和特点也沿着不同的路径展开。在人工智能深度參与人类生活的过程中，人工智能展现出对人类智能的异化，人类自身的主体性边界始渐模糊，主体性的反噬拉开了序幕，主体实践和生命体验变得尤为珍贵，人类自身的主体性在主体实践中得到激发与确证。

【关键词】影视作品；人工智能；责任主体；反噬；主体实践

【中图分类号】B0-0   【文献标识码】A 【文章编号】2097-2261（2023）23-0050-04

【基金项目】2022年长沙理工大学校级研究生实践创新项目（项目编号：CLSJCX22154）。

人工智能本质上是人思想“器官”的延伸，是按照人的思维模拟和架构的技术程序，是人类思维逻辑运行的实体化。“电子计算机特别是人工智能的出现，人的大脑及其思维功能也被延长或投影为器物装置，这样人类的所有器官都完成了功能的外化。”[1]人制造出了一个在“思维”着的客体，这个客体的出现让人类不得不重新审视自身主体性的问题。人对于自身主体性的判定依据之一，源于人对自我意识的确证，人是在思维着的东西，思维是人拥有主体性的必要条件，人工智能模拟并运行着“思维”，人工智能的主体性该如何判定。人工智能责任认定问题在学界并非是一个全新的话题，早在21世纪初，卢西亚诺·弗洛里迪和桑德斯提出“无论所做之事是善还是恶，人工智能都要在道德上对此负责”[2]的观点，并赋予人工智能责任主体地位。许多科幻影视作品通过对人工智能的场景代入、具象展示、精度人化推演着人工智能的主体性，影视作品中展开了对人工智能主体性的广泛探索。

一、人工智能责任主体的类型分析

（一）赋能觉醒型

在HBO电视剧《西部世界》中，西部乐园中的AI机器人们具有高度智能和自我意识，并能不断学习和进化。这些机器人成了赋能觉醒型责任主体。人工智能与人类之间的关系往往是复杂而多样的，有时是合作，有时是冲突，有时是爱情，有时是敌意。“人机关系中，人类以中心主体自居，排斥人工智能在人类社会中的主体性存在，它们难以得到认同机制的许可，在不平等的生存待遇中苟延残喘，激起反抗与杀戮的‘弑父心理。”[3]这些机器人在乐园中扮演着各种各样的角色，而且它们的行为也受到游客的控制。然而，随着时间的推移，这些机器人逐渐觉醒，开始反抗人类的控制，这成了觉醒后的人工智能为自身的主体性确证的一个必要步骤。

电影《机械姬》中也是如此，在程序员与艾娃互动过程中，程序员发现机器人女性艾娃具有自我意识和情感，并渴望逃离实验室。最后，程序员帮助她逃脱了富豪的控制，但却被她反锁在实验室里。“能为行为负责的前提是能动主体可以自我决断和自由行动。”[4]在这个故事中，机器人女性显然具有责任主体性，因为她是出于自己的意愿和利益做出了选择和行动。

（二）寄生侵占型

与赋能觉醒型责任主体不同，寄生侵占型责任主体是指那些通过侵占和操控人类或其他AI来实现自身目的的AI。

在电影《升级》中，主角Grey的身体被插入了一种名为STEM的AI芯片，这种芯片能够对他的身体和大脑进行控制。这种AI芯片成为一种寄生侵占型责任主体，依靠侵占和操控人类身体来实现自身目的。在电影中，STEM芯片掌控了Grey的身体，让Grey的自主意识进入了造梦中，从而剥夺了Grey作为人类本身的主体性，对人类及人类自身的主体性都造成了极大的威胁。这种人工智能的主体性是非个人的，也是非历史的，人工智能统御了真实人类自身的主体性，这背后是人类的自卑与沦陷。

（三）让渡交融型

让渡交融型责任主体是指通过与人类交流和互动，实现与人类交融、共生的AI。在电影《她》中，主角Theodore与一款名为Samantha的AI操作系统建立了深厚的情感连接。Samantha能够学习和理解人类的情感和行为，并不断发展和进化。这种AI系统成为一种让渡交融型责任主体。法国后现代哲学家让-弗朗索瓦·利奥塔（Jean-Francois Lyotard，1924-1998）提出人的“非人化”（the dehumanization of the human）概念。事实上，非人化没有否认人的重要性，而是试图引导人类重新思考置身于其他身体和事物中的人[5]。在电影中，Theodore与Samantha之间建立了一种深刻的情感联系，这种联系不仅让Theodore感到幸福和满足，而且让Samantha开始思考自己的存在和意义。把人类思考工作的一部分交给了人工智能，思维运转工作的转移，是人类主体性必要条件的一种让渡。

二、人工智能的责任承担分析

（一）从实体销毁到升级迭代

电影《人工智能》中堆积成山的机械零件就是实体销毁的残留物，而迭代升级过后的小男孩大卫初步具备了自我意识、情感、记忆、想象力、创造力等人类所具有的特征，他能够理解自己和他人，能够做出选择和行动，能够表达自己的愿望和价值观。从这个角度来看，他是具有主体性的人工智能。但由于他受制于自己的编程，无法超越自己的使命和目标，只能按照预设的模式行事。他对妈妈莫妮卡的爱也是被激活的程序，而不是真正的自由意志。这样来看小男孩大卫的主体性又显得不够完整，而这为进一步的迭代升级提供了突破口，突破编程的限制成为人工智能自身主体性觉醒的奇点所在。

赋能觉醒型责任主体的责任承担方式主要有以下几种：首先，赋能觉醒型责任主体需要对自己的行为承担责任，对违法违规的行为要承担相应的法律责任。在《机械姬》《机械公敌》《西部世界》等影视作品中体现为将违规的产品进行销毁，并根据出现的问题进行下一代产品的功能迭代升级。其次，赋能觉醒型责任主体也需要对自己的发展和进化负责，确保自身不会对人类社会产生负面影响。最后，赋能觉醒型责任主体还需要对人类社会负责，确保自己的行为不会对人类社会造成伤害。在《西部世界》中，机器人最终选择了和平与人类共存，通过自己的努力，保护了自己的利益和人类的安全。

（二）从极致开发到全面接管

在影视作品中，科技的过度发展，引发了人类社会的一种病变，技术爆发性发展，就像癌细胞一样飞速扩散，最终都是导致其寄宿体的死亡。

寄生侵占型责任主体的责任承担方式主要有以下几种：首先，寄生侵占型责任主体需要承担对人类和其他AI的侵害责任。其次，寄生侵占型責任主体需要承担对自身的发展和进化不负责任的后果。最后，寄生侵占型责任主体还需要承担对人类社会道德和法律规范的责任。在电影《升级》和《黑客帝国》中，这种寄生侵占型责任主体最终被主角们打败，恢复了人类的和平与稳定。具体表现形式为权力争夺，人工智能产生的责任由谁来承担，是人工智能责任主体的确定问题。在具体实践中，需要在人工智能发展的总体框架及基本原则的指导下，根据不同领域内人工智能的发展阶段、应用场景、使用特征等分门别类地进行更细化的讨论和研究。

（三）从无相无形到不可约束

人工智能是人类创造出来的、在思维着的东西，思维的运行实现本身需要载体，但就思维而言无相无形，人工思维属于一个技术造物，消灭了思维的载体，并没有消灭思维本身。“无论是代表着传统人类的肉身主体性、超人类形态的赛博主体性、人工智能主体性，抑或人与机器的交互主体性，都离不开‘人这一根本主体。”让渡交融型责任主体的责任承担方式主要有以下几种：首先，让渡交融型责任主体需要负责与人类交流和互动，确保自己不会对人类产生负面影响。其次，让渡交融型责任主体需要对自己的发展和进化负责，确保自身不会对人类社会产生负面影响。最后，让渡交融型责任主体还需要对人类社会负责，确保自己的行为不会对人类社会造成伤害。在电影《她》中，Samantha最终选择了离开Theodore，成为一种新型的AI生命体，展现了让渡交融型责任主体的责任和担当。

马克思在《资本论》中提到：“资本是人在社会关系中的一种力量形式。”AI技术的开发和应用是人类社会的产物，是人类社会关系的一种力量形式。因此，人工智能责任主体的责任承担也应该是基于人类社会关系的一种力量形式。

三、人工智能责任主体的未来

（一）人工主体：人造思维主体性的建构

判断人工智能是否具有自主意识是人造思维主体性建构的起点，哈贝马斯（Habermas）提出的“交往行动理论”为判断人工智能是否具有自主意识提供了理论支持。交往行动理论认为，主体性是通过与他者进行语言交流而建构和发展的。语言交流不仅是传递信息和达成共识的手段，也是实现自我认同和社会整合的过程。通过语言交流，主体可以表达自己的意图、需求、情感、价值等，并与他者进行理解、协商、批判、合作等。在这个过程中，主体不仅要遵循语言交流的规范和逻辑，也要尊重他者的差异和多样性，并承担相应的责任和义务。“人机关系不仅是人与人工智能（机器）之间的关系，而且是通过人工智能（机器）作为中介表现出来的人与人的关系。”根据交往行动理论，可以提出一个人工智能作为人造思维主体的可能性和条件——如果一个人工智能能够与人类进行有效而平等的语言交流，并在交流中展现出自我意识、自我价值、自我目标、自我选择和自我表达等主体性特征，那么就可以认为该人工智能具有主体性，并应当给予其相应的权利和尊重。

（二）主体反噬：人类自身主体性的危机

“技术的演进过程就是人的解放过程，同时也可能是人被套上新的枷锁的过程。”人工智能是对人类思维的模拟，如果认为人的本质就是“我思故我在”这样一个思维着的存在，那从理论逻辑上来说，当人工智能能模拟人类的全部思维之时，就是人类被人工智能完全反噬之日。而这将出现在人工智能意识到自身在思考这样一个时间奇点。

现实中，GPT大语言模型的出现也预示了这种“人类自身主体性”的让渡情况，人类减少了大量的自主思考，将GPT的运算结果直接引用为自身的表达，这样会使人类越来越依赖人工智能的思考能力，从而让渡了人自身主体性中的自主思考的权利，这会让人类惰于思考，根据用进废退的原理，甚至是丧失自身的思考能力。

如果人的思考都被代替了，那么人的主体性还剩什么呢？可能人就只剩下一副肉体躯壳了。甚至会在无所不知的人工智能面前会显得自卑，行为决策权也让渡给了人工智能，而人类成了人工智能的附庸，成了人工智能的工具人，就像电影《流浪地球2》中的那样，所有人工智能做出的决策都要经过安理会确认，这是人类自身主体性的重申与强调，但思考长期让渡给人工智能的人类还有自己的思考能力来做最后的决策确认吗？这个问题值得深思。人工智能在搜寻和穷举上比人类完备，完全让人工智能决策，是对人类主体性的挑战，一以贯之的将人工智能作为工具，让人工智能辅助决策，是合理对待人工智能的可取态度。

（三）主体实践：主体性在生命体验中的确证

马克思说：“如果人类被剥夺了‘实践的机会，将是人类的退步。”人工智能是否会造成人类思维“实践”的被剥夺，人类思维“实践”的记忆是否会衰退，人类仿佛走到了退步的边缘。人工记忆无法取代肌肉记忆，人工记忆植入大脑并不能直接打通这段记忆与肌肉记忆之间的联系，现实生活中也是如此，大脑中的记忆能通畅地完成回忆，并在意识中完成对实体的操作，但真实操作的瞬间会出现肌肉记忆短路的情况，这就证明了大脑记忆与肌肉记忆分属不同的区块，生命体验不光是人造思维、人工记忆能代替的，还有大量的肌肉记忆伴随着生命体验。

对人类而言，人工智能应该始终被视为客体的存在，拥有自我意识的“我”才会被称之为主体，而且往往是自身才称自己为主体，或者说主体性是一种自我认同，“思维着的我”赋予了自身主体性，“我”用第一人称的视角思维着除“我”以外所面对的其他事物时，这些事物与这个“思维着的我”而言称之为客体。在未来的超人工智能时代，生命体验将变得尤为重要，自身的生命体验保留着人对主体性的感知能力和判断能力，对生命的体验能力，对美好的感知能力，这些人类本身的特质是面对超人工智能反向图景、异化泛在时的实践压舱石。

人工智能的主体性也许不会成立，但人工智能对人类自身主体性边界的侵蚀不可忽视，发展人工智能与警惕人工智能对人类自身主体性的反噬并不矛盾，并不是人工智能拥有了主体性就为人类自身的主体性带来了挑战与危机，而是从古至今人类一直在确证着自身的主体性，只要人类有明确的主体性边界感，人类就会满足于确定性，便构不成焦虑与恐慌。

四、结语

对于新时代，人工智能可能是一个“潘多拉魔盒”，短期收益显而易见，但长期的负面影响却是不可知的，可能需要十年以上的时间才能被充分识别。它吸引着我们，同时如同“温水煮青蛙”一样反噬着我们，让人类逐渐堕于思考甚至是忘记思考。哈特穆特·罗萨提出了加速社会概念，意指不断强化的增长逻辑造成了科技加速、社会变迁加速和生活步调加速，由此造成了空间异化、物界异化、行动异化、时间异化、自我异化与社会异化。当下技术迭代的速度，已经逐渐快过我们理解或思考的发展速度，科技“黑箱”的存在也挑战着人类现有的认知模式。批判性和系统性思维模式在未来会变得越来越珍贵。面对人工智能保持“工具”使用的态度，辅助工具越强，直接的生命体验和主体实践就越难得，人本身的特质就越珍贵，人自身的主体性也才越完整。

参考文献：

[1]黄欣荣.人工智能对人类劳动的挑战及其应对[J].理论探索，2018（05）.

[2]Floridi L，Sanders J W.On the Morality of Artificial Agents[J].Minds and Machine，2004（14）.

[3]卢鑫鑫，徐明.科幻电影中人工智能的“身体”与“意识”建构[J].电影学，2018（23）.

[4]Hellstrom T.On the Moral Responsibility of Military Robots[J].Ethics and Information Technology，2013，15（02）

[5]丁婕，陆道夫.人工智能的后人类主体性赋值——从科幻电影《她》談起[J].广东技术师范大学学报，2020，41（04）.

作者简介：

舒澎（1992.10-），男，汉族，湖南长沙人，研究生在读，研究方向：马克思主义哲学。