现实悖论与风险想象：影视作品中的人工智能形象研究

王军峰

(陕西师范大学 新闻与传播学院，陕西 西安 710119)

近年来，随着人工智能机器人(简称“人工智能”)在生活领域的渗透，与人工智能题材相关的科幻电影越来越多，尤其是作品中关于人工智能和人的关系的思考以及人工智能的情感问题吸引了广泛关注，也给人们带来了无尽想象与思考。如何在现实层面理解人工智能，影视作品又构建了什么样的关于人工智能的风险想象，这对我们在现实与虚拟世界两个维度上理解人工智能具有重要意义。笔者重点分析了人工智能在现实层面存在的悖论，以及影视作品给我们构建的关于人工智能的风险想象，以为人们全面深入认识、理解人工智能提供思路。

一、人工智能引发的三重悖论

人工智能的发展离不开现实社会语境，对人工智能的理解也应该以社会语境为前提。随着人工智能变得越来越具有人性，越来越具有自主意识，这也需要我们进一步思考人工智能的根本属性是什么、具有意识的和情感的人工智能是人还是物、人和人工智能之间的关系是什么等关键性问题。将这三个问题作为回答人工智能是什么的关键，能够呈现出关于人工智能风险与想象的三重悖论：技术性与社会性的悖论、人性与物性的悖论以及控制与自由的悖论。

(一)技术性与社会性的悖论

人工智能是科学技术发展的产物，因而人工智能具有技术属性，但随着其渗透到社会关系的程度越来越深入，人工智能越来越朝向具有“人性”和“意识”的方向发展，这要求我们从社会层面思考人工智能的技术性与社会性之间的关系。而是否具有意识，是人与人工智能之间的根本区别。对此，哲学家米德认为人的自我意识的形成，本质上都是人类在社会空间中的经验产物，这里强调的社会空间是人的自我意识产生的重要前提。马克思也强调人是社会性动物，处于一定的社会关系中呈现出其社会性特征。由此，现实层面，人工智能的技术性和社会性发展方向形成了悖论：一方面，人工智能是技术的产物，具有技术性的本质特征，但另一方面人工智能的发展也呈现出社会性的发展趋势，它越来越深入到人类的社会关系中。具体来看，目前的人工智能更多是以工具性、技术性属性出现的，其在“人—机”关系中处于从属位置，其存在的价值在于为人类创造更好的服务，只有在服务于人类生活中才显示出其价值所在。但这种价值根本上看是一种工具价值，这是其技术维度。[1]但是，无论是在现实层面还是在影视作品中，关于人工智能的社会性也有其存在的基础。例如，当前手机里的人工智能助手，能够和人类产生一定的互动和交流，聊天机器人的出现为人机关系的呈现提供了更多想象。可以说，在社会层面上人工智能又呈现出其社会功能以及社会价值。那么，关键的问题在于这种社会性是否能够让人工智能产生独立自主的“意识”，从而呈现出其社会属性呢？这一点，影视作品给出了想象的空间。例如，在影视作品《人工智能》中，不仅有人工智能和人之间的互动，而且有人工智能机器人和同类机器人之间的互动。这种互动尽管是以程序性的、事先设置的方式呈现的，但依然呈现出人工智能的社会性想象。在这种情况下，如何认识人工智能呈现出的这种社会交往、交互、交流，以及人工智能是否会因此而生长出独立的自我意识，从而摆脱自身技术性的束缚值得思考。

(二)人性与物性的悖论

遵循着人工智能技术属性和社会属性的讨论，关于其物性与人性的悖论也存在其中，并在理解人工智能上具有重要意义。这就需要我们深入理解人性与物性之间的关系。美国心灵哲学家约翰·塞尔认为人的心灵具有意识性、意向性、主观性和心理的因果性四个特征。这四个特征是人区别于其他一切生物的人类特征。[2]黑格尔则认为“思维是人的专属，是人类与其他物体区别开的本质所在”。[3]在现实层面看，一些研究者认为人工智能发展的高级阶段(高级人工智能或强人工智能)是需要具有情感和意识的。例如，有的人工智能专家就认为“人工智能机器能否有情感不是问题，而问题在于机器实现智能的时候不能没有情感”。[4]而人工智能哲学家玛格丽特·博登也认为“创造力和情感”对实现强人工高智能是必不可少的。这为人工智能的人性化发展提供了理论设想。科幻电影为我们提供的未来景象是人工智能“迫不及待地冲入社会关系网络，并把自己当成社会中的一员，甚至要求对这个世界拥有掌控权”。[5]在电影中，人工智能机器人被程序设置成具有情感性，最终成为具有自我意识的个体，参与到与人的情感交流中，参与到与机器的情感交流中。在电影中，这种社会性交往成为人工智能机器人生成自我意识，乃至想要成为一个“真人”的动力。例如，《人工智能》中机器人大卫对人类永无止境，历久弥坚的爱，完全是通过计算机程序实现的。在《机器管家》中，安德鲁在与人类的相处中慢慢生发出一股人类般的情感和情感需求，正是这一强烈的情感需求使得它拥有了强大的内在驱动力，它充满了“变人”的力量和斗志。由此，人工智能呈现出来的“人性”超过了其具有的“物性”。但就目前的现实层面来看，人工智能的社会性交往依然是一种程序性的、事先设置好的，尽管有聊天机器人的诞生，但这种交往还依然难以触达情感层面。即使是机器人与机器人之间的交往，也难以产生情感这类“人”具有的特殊社会性需求。这种交流更多的是一种人工智能深度学习之后的程序型反应，难以产生自我意识。

(三)自由与控制的悖论

在对人与人工智能之间的关系的思考上，目前主要是以人类中心主义的视角进行关照的。在这一前提下，“人—机”关系是以人为主，人控制机器，机器为人服务的关系，这呈现出人工智能的物质、技术属性。随着人工智能研发不断呈现出智能化、人性化的趋势，公众对人工智能的风险想象多集中在人工智能具有了自我意识和情感后，就更容易挣脱人类的控制进而寻求自身的自由的问题。由此，具有高度智能性的人工智能作为技术性的、物质性的工具机器，在社会层面和人性层面的不断进步，引发了关于人工智能自由与控制的风险。这不仅是现实中的悖论，而且在关于人工智能的影视作品中也呈现出来。例如，电影《机械公敌》就为观众描述了这一个因失控而攻击人类的人工智能形象。影视作品中的人工智能逼真度越来越高，与人的界限感也变得越来越小，已从过去物化的“它”转向了拟人的“他”，甚至向超人化的“他”前进。[6]这些影片中创造人工智能的人都始终存在一个矛盾，即人们既想创造出和人类一模一样的人工智能，又想让它们服从人类的指令。但悖论在于，若人工智能真的成为人们所期待的人类一样的话，那同时意味着它拥有意识，而一旦有了自主意识后它就很难再听从人类的摆布。[7]

可以说，关于人工智能的忧思与风险想象，主要围绕着其技术属性与可能形成的社会属性之间的冲突展开，由此在技术层面上决定了人工智能在与人的关系中呈现出物性，而这种物性是一种工具性的体现，自然人们在处理与人工智能的关系上就呈现出控制的倾向，而这种倾向具有人类中心主义的本质特征。但相应地，围绕人工智能的社会性，如社会功能、社会价值甚至人工智能发展的情感性、人性趋势，由此而呈现出其自我意志、自我情感，最终呈现出人工智能对人性的追求和对挣脱人类控制束缚的风险想象。

二、影视作品中人工智能的风险想象

人工智能的身体形象正在伴随着技术本身的发展而变化，经历了从“机械化”到“人体化”再到“虚拟体”的转变，形成了金属机械如《星球大战》《第五元素》、人类肉身如《西部世界》《银翼杀手》《终结者》《人工智能》《机械姬》等，以及虚拟主体如《2001太空漫游》《她》等几种类型。[8]但无论是哪一种身体形象，影视作品都为人们设置了处理人工智能与人之间关系的可能性，也为人们呈现了不同的风险想象。它们在不同层面呈现人工智能存在的现实悖论，由此增强了风险想象与现实悖论之间的张力。

(一)敌意型人工智能及其风险呈现

人工智能是否有可能形成一种破坏性力量，进而威胁到人类的生存？对于这一风险发生的可能性，英国著名理论物理学家史蒂芬·霍金警告人们：人工智能的发展可能意味着人类的灭亡。比尔·盖茨也认为人工智能将最终构成一个现实性的威胁。马克斯公开警告人们需要重视人工智能带来的危险性。这种将人工智能放在人类生存的对立面，最终呈现出破坏性、毁灭性后果的影视作品，可以将其称之为“敌意型人工智能”。它为观众呈现了破坏性力量，具有较强的警示作用，在人类与人工智能的关系上主要呈现了自由与控制的想象。例如，电影《世界之主》中就为观众呈现出了科学家试图创造机器人来帮助人类完成工作，但却反被机器人所利用，最终自取灭亡的经典桥段。《机械公敌》中，全新的智能型机器人产品上市前夕，机器人创造者朗宁在公司内遇害，人们发现行凶者正是朗宁研制出来的机器人。随着调查深入，人们发现正是这种全新的智能机器人获得了进化的能力，产生了自我意识，对机器人三大定律产生了自己的理解，在绝对理性计算的逻辑下，成为危害整个人类的“机械公敌”。尽管影片最后呈现了人类与智能型的机器人达成和解，但电影的多元想象空间依然存在。如这种工具型人工智能究竟有无意识、究竟具有自主意识的机器人对人类来说是福是祸等，都引发了更多的思考。《终结者》则描绘了这种风险的最终想象，在影片中机器人已经掌控着天下，它们想要完全占领这个世界，把人类赶尽杀绝，人类只能死死抵抗。可以看出，敌意型人工智能以毁灭人类的形式出现，它构成了人类面对人工智能时代的终极想象。在冰冷的机器面前，在技术与物性的逻辑下，人与机器之间没有含情脉脉，而构成为相互对抗，甚至相互毁灭的两极。

(二)工具型人工智能及其风险呈现

工具型人工智能主要呈现的是机器人的技术性与社会性之间的悖论。这类人工智能是以人类助手的身份出现的，但在介入到人类社会中呈现出技术性与社会性双重属性。《机器管家》为我们呈现了人工智能的技术性和社会性想象。安德鲁本来是一个机器人，在进入到人类家庭中和人类相处的过程中，它的工具属性随着与人类之间的互动和交流越来越少，而社会属性逐渐增加，尤其是其细腻的情感让它成为独一无二的那一个。例如，它为小女孩设计艺术作品，能够欣赏音乐，能够懂得人类情感等，越来越让它成为一个社会性成员，在此过程中生发出了人类的情感和意识。由此安德鲁逐渐从技术属性转向社会属性。该片的另一个译名为《成人》，就揭示了安德鲁从人工智能机器人到成为一个具有社会属性的真正的人的过程。电影《人工智能》也为观众描绘了关于人工智能社会属性的想象：影片中机器人大卫与乔之间的相互交往，以及乔对大卫提供的帮助，呈现了机器人之间的友谊。而在机器屠宰场，机器人小女孩对大卫的营救，也呈现了机器人之间的社会性关系。还有一种工具型人工智能，它以人类高科技的操作系统的形式存在，可以被称为程序—工具型人工智能，对于现实社会来说，程序有混乱和出错的风险，而电影中呈现的程序—工具型人工智能也存在类似的风险。例如，电影《超验骇客》描述了这样一个故事：人工智能领域的科学家威尔卡斯特开发出了一种具有人类情感和智慧的计算机系统，但这导致他成为反科技极端分子的袭击目标。他遇袭后危在旦夕，其妻子和朋友继续进行他的研究，并将他的意识上传到了计算机当中，造出了第一个真正的人工智能。但影片最后，人工智能被限制在数码世界中，只能以程序的形式存在。而《太空漫游》三名宇航员和一台叫作HAL9000的高智能电脑开启了木星登月计划，但是HAL9000发生了程序错乱，令两位宇航员相继丧命，只剩下波曼和HAL9000在茫茫太空中。当HAL9000从唇语得知波曼和同事将让它死机，它毫不犹豫地杀死了波曼的同事。可以看出，工具性人工智能为我们呈现了人工智能机器人与人之间和谐相处的画面，但这种画面依然蕴含着风险，无论是伦理的风险，还是程序混乱出错的风险，一旦风险发生，都将不可避免给人类带来伤害。

(三)情感型人工智能及其风险呈现

情感型人工智能主要是指为主人提供情感慰藉的机器人，用来弥补人类情感损失。随着人工智能和机器人技术的不断成熟，情感机器人还将拥有高度的自主意识和决策意识，越来越具备属人特征。[9]因而科幻电影对人工智能的关注也将视角放在了人与人工智能的关系层面，探讨这种情感的意义。由于情感机器人需要介入到人类复杂的社会情感中，因而最容易产生伦理风险。但这种情感能否与人类相融，这种情感是属于程序设定型情感还是自我意识生发下的情感，人类却难以分辨。但是由于人类具有较强的移情能力，尤其是在具有人形的、类人类肉身的机器人中，由于外貌方面的相似性，这种因为移情而产生的情感风险表现得更为突出。一方面，情感型人工智能与人类形成了相互依赖的关系，这种人工智能机器人本质上依然是工具型人工智能，只是作为一种情感慰藉的工具才显示出其存在的价值。但另一方面，这种情感机制一旦启动，就难以停止，要阻断人类与人工智能之间的情感，只有对人工智能进行毁灭或者抛弃、程序修改等。但其问题在于，人工智能的情感，即使是被事先设置程序而存在的情感，是否就不能主动感知人类诸如抛弃、毁灭、憎恨等情绪，或者说人类并不确定这种事先被设置的情感并不具有情感的能动性。在这种情况下，如何处理人与人工智能机器人之间的关系就尤为重要，是人类领导情感机器人，还是情感机器人能够像人类自身一样拥有同样的地位、权利、道德并与人类和谐平等相处，这就显得更为复杂。在电影《人工智能》中，情感型人工智能大卫就是以弥补家庭中孩子缺失而出现的，它一旦被启动就注定了它以爱自己的妈妈为存在的唯一理由。而当大卫喊出“妈妈”的时候，女主人显然对其动了情感，及至自己的孩子恢复健康，它把机器人大卫送回生产厂，却在最后关头抛弃了大卫，但又叮嘱大卫一定要逃跑远离人类，因为送回生产厂就意味着要将机器人销毁。由此可以看出女主人对具有情感性的大卫动了恻隐之心，尽管它只是机器人，但这种移情作用已经诞生。而电影《她》呈现的机器人萨曼莎也是一种情感型机器人。影片描述了一个刚刚离婚的男作家西奥多在偶然间接触最新的人工智能操作系统OS1，这个名为萨曼莎的人工智能系统，温柔体贴又不失幽默风趣，很快获得西奥多的好感，由此发展成一段恋情，但实际上萨曼莎在网络中同时与成千上万的人保持着情感联系。这为人们揭示了人类被人工智能吸引存在的伦理风险和情感风险。

三、余 论

影视作品关于人工智能的想象和现实中人工智能发展存在的悖论，为我们思考如何与人工智能相处，如何防范人工智能发展存在的不确定性风险提供了认知路径。从技术维度看，人工智能是技术的产物，是技术性、物性的统一，是处于被控制的地位，但人工智能却朝着社会性、人性的方向发展迈进，在不断突破人的控制而走向自由。但这种自由，带来的不仅是人与人工智能和谐相处的理想境地，也面临着敌意型人工智能威胁人类生存的危险、工具型人工智能挣脱人类控制的风险，以及情感型人工智能带来的伦理道德风险。无论如何，关于人工智能的发展，以及人工智能带来的可能的风险，需要我们在发展人工智能的过程中予以重视。