电影中的AI与“AI电影”：“人造他者”的想象嬗变与伦理反思

陈旭光 蒋佳音

2023年，随着以Chat GPT为代表的生成式AI出现，人工智能（AI，Artificial Intelligence）再次引起全球性的关注。人类的感觉、认知和体验等多个方面，因AI技术受到冲击乃至重塑，似乎已不再遥远。与此同时，AI与电影的关系进一步复杂化，不仅作为电影史上长盛不衰的某种形象、题材或“亚类型”而热度持续，还正在深刻地影响电影的生产制作、思维、语言与想象方式。围绕人工智能叙事的前者，我们称之为AI题材电影；运用AI技术进行视听内容生成的后者则可称AI电影。

无论AI 身处何种语境，AI 本身总保留着两个不可转移的属性：其一，是人造。其二，是“他者”的内涵。其中，“人造”指向技术的维度，背后体现着人类对这种存在形式的创造和赋权。“他者”则反映出AI的不确定面容和客体化的本质，对应了AI形象的不断变形和多样性。总之，“人造他者”的概念，指认了AI以技术关注为核心的客体身份，为AI在电影中的研究，提供了基本的出发点。

电影中的AI和AI电影之间，基于电影想象与技术创新的紧密联系，体现出引人深思的复杂关联。一方面，电影中的AI借由丰沛的科幻话语，对AI技术进行了寓言和推导性呈现，形成了以伦理问题为主要核心的叙事范式。可以说，AI题材电影以显著的大众性和普及性，极大地助力了AI从科技相关性向社会文化层面的过渡。对此，笔者曾指出，近来中国科幻电影中凸显的“人机伦理难题”1标志着“智能机器人与我们‘人类世’相处时必然遭逢的道德困境和伦理悖论”。2另一方面，AI进入电影生产的现实变化，体现了电影在“技术自反性”3批评上的能力与未来潜势。诚如布莱恩·雅各布森（Brian R.Jacobson）所言：“如果电影有一种独特的能力，让观众了解他们帮助创造的世界，那么以技术为导向的批评，应该强调电影的认识论和技术批判作用，以评估不断变化的技术，这些技术塑造了世界和电影。”4简单来说，AI题材电影既在技术的假定性叙事中，思考了人类与AI的关系，同时也辅助人们更新对AI时代电影艺术形式的理解以及自然人生产者在其中的定位。尤其是AI介入电影的技术体系、创意生产和传播等环节后，AI题材电影探讨的“技术替代人类”和“人机关系”主题与现实的共振作用逐渐凸显，成为影响AI电影发展的核心问题。这种变化同时也引发了一系列与技术伦理相关的问题，迫切需要在综合考虑AI和电影的关系谱系的基础上进行深入的讨论。

一、电影中的AI：“人造他者”的想象与推演

在电影类型研究的视阈中，从电影中出现AI到形成清晰、具体的AI题材电影（Movies about AI），是一个动态的影史进程，涉及主题、想象方式和叙事范式等多个方面的推演与建构，并始终遵循着趋近现实技术向度的底层逻辑。

普遍认为，1927年由德国导演弗里茨·朗导演的《大都会》（Metropolis）是最早出现AI角色的电影作品。影片中的类人智能机器“玛丽亚”成就了电影史上经典的“人造他者”形象。不过，《大都会》是否为AI题材电影的开端，始终存在争议。不少AI题材电影的研究者，通常会强调“技术自觉”在定义这一特殊类型时的重要性。也即是说，严格意义的AI题材电影需要体现AI概念的明确（和机器人传统区分），以及AI构成影片中心意义。例如电影叙事需要围绕AI角色展开，电影的主题和意义需要指向对人工智能技术的关注等。从这种观点出发，1956年的“达特茅斯”会议正式确立人工智能的研究领域，使相关的技术关注由科学界逐渐播散至大众文化视阈后，狭义的AI题材电影才真正诞生，更加明确了这一题材在有效、紧密平行现实AI技术发展上的定位。

当然，并非只有狭义的AI 题材电影，才对人工智能技术的讨论具有价值。无需赘言，“科普”不是电影呈现“人造他者”的全部意义，多数电影更着意在技术发展的底色中，探讨人工智能对文化或意识形态的影响。从《大都会》开始，电影对“人造他者”的想象即已建立了一种相对成熟和广阔的视野：玛丽亚的形象和命运，不仅创立了独特的图谱意义和文化仪式——开启了人造智能机器将脱离人类掌控、威胁人类的推测，也奠定了未来主义风格，以及乌托邦或反乌托邦的叙事色彩。与此同时，早期研究也很快肯定了AI与“人形怪物”等原型文化意象紧密结合的能力，故而众多早期作品，在研究视阈取得了“跨越文化边界蓬勃发展”5的评价。故此，相对于作品曾具体反映过哪些AI技术，更为重要的是理解电影中的AI如何在趋近现实技术的过程中完成意义构建。

从历史的维度看，电影中的AI产生于展现人类进入机器工业时期的文化和政治意识。《大都会》之外，1935年美国出品的《铁皮人》和1938年的英国作品《万能机器人》均在“科学怪人”传统下映射机器时代的社会困境。20世纪60年代，好莱坞迎来科幻热潮，AI作为一种典型符号与惯例，被纳入未来时空世界的构建，实际隐射着由大机器激发的扩张意识。科幻流行读物对早期AI影像形象居功至伟，辅助了电影以“异己”快感为中心构作AI的意涵。所谓“异己”，指的是AI从属科幻类型“他者”的主题下，回应“谁”最终会来替代“人类”的焦虑追问，或与谁分享、扩展文明的乐观幻想。20世纪60-70年代，“福克斯”的《异形》系列，“派拉蒙”的《人猿星球》系列，与散落各处的“智能机器”分庭抗礼，配合人类外空探索的大主题。此外，同任何科幻符号一样，早期电影中的AI还充当时代精神（era's zeitgeist）的一种变体6，如1970年的《巨人：福宾计划》即是一部较典型化的冷战格局高科技排演，讲述了两台超级计算机形式的AI，以二进制语言企图启动核武器毁灭人类文明。于此，AI的相关想象，再次成为借代社会政治和文化语境的一种形式。

20世纪80年代，科学界关于信息论、系统论和控制论的讨论，以及电影技术在模型特效和三维立体动画等方面的进步，使更接近当下情状的狭义AI题材电影被广泛创作。二者帮助AI题材建立起独自支撑完整作品的想象力和商业效果的能力，某种程度上也能借其解释《银翼杀手》和《黑客帝国》在AI题材电影研究中的重要性与分水岭地位。两部作品分别从不同时段，将AI叙事从科幻主流的宏观宇宙等奇观中抽出：“从梦幻般的航行和‘对灾难的想象’转向研究科学技术的最新发展如何影响人类的身份。”71982年的《银翼杀手》反映了AI技术中的“仿真人”（Android）神话。1999年的《黑客帝国》则延续了《银翼杀手》中对虚拟和真实边界问题的探讨，展示了虚拟现实（VR）技术的强大交互性，以及未来社会可能因AI所遭遇的危机。新世纪后，伴随着《奇点临近》8等著作为代表的“技术奇点”假说，AI题材电影进一步成为充满文化活力的亚类型：如《人工智能》讨论了AI技术的商业化实践及困境，《我，机器人》触及了AI技术的政治化寓言，《机械姬》和《她》涉及了AI技术对人类情感系统的改变等。此外，AI题材电影在续集和系列的产出上也进入了加速期：如《终结者》《银翼杀手》《黑客帝国》《超验骇客》等均进行了续集生产和IP化创作，有力地证明了AI题材的方兴未艾和其背后伫立的巨大观众群体。

除了历史变迁中隐现的技术趋近逻辑，“后人类”思潮是理解电影艺术建构AI叙事所无法回避的另一线索。正是与它的结合，使AI在“人造他者”的身份指认下，充分想象了AI技术与人类存在形态的联系。如果说在技术寓言的逻辑中，电影里的AI主要是对人之创造——文化、社会、政治等层面产生联系，那么与“后人类”思潮的遇合，则直接将电影中AI推至对人自身存在的怀疑。

后人类主义体现了后现代的解构性。利奥塔认为，后现代主义涉及对元叙事的怀疑，AI形象的嬗变，伴随着人类中心主义“元叙事”的式微，回溯至“何以为人”及“人如何立足”的永恒焦虑中。即便从某种意义上说，“后人类”本身即为技术进步在人文领域的一种溯洄，但它几乎成为AI题材电影探讨伦理、乃至整个人类命运的哲学资源与底色。电影研究已很难清晰地划分AI题材电影从何时起与“人类中心主义”的哲学反思遇合，或许作为大众文化形式的AI题材电影正是助推思潮的原因之一。总之，后人类主义使AI题材电影丰富、扩充了想象AI技术未来的人类学意义，并主要映现在对AI与人的“相似”和“相处”两个层面的构造中。

“相似”指向AI 的“类人”或“人格化”。在AI形象的“相似”中，AI的主体逻辑得以建构，同时以一种独特的视角照见人类的面目，思考人类自身的命运。其中，“具身”是“类人”塑造的主要传统，既出于对技术历史阶段的反映，也受到来自电影史和电影视觉特性的深刻影响（现今的AI技术并未主要朝此模式发展）。代表性的作品有1999年的《机器人管家》，讲述了钢铁身躯的机器管家安德鲁，追求肉身和生命界限的故事。AI的变人愿望被构造为道德化期待。随着思想演进，“类人”洁癖和人本主义立场逐渐在AI题材电影中被过滤。2021年的《芬奇》仅保留了AI技术的人道主义诉求。电影中的AI角色Jeff，维持了机器的形态，不再过度追求人类外观，仅塑造人格化的心智。Jeff的最终使命是守候芬奇的爱犬——碳基生命的延续。这一情节，隐射了对“类人”塑造的“去中心化”。当前，“相似”仍是一个因充满变动而不断引发新思考的维度。除了广泛流行的“赛博格”形式外，2013年的《她》是一部革新“相似”的代表性作品。电影巧妙地解决了视觉化桎梏，塑造了不具有身体的系统类AI萨曼莎，实践了斯科特·布卡特曼的“终端身份”（terminal identity)概念：“主体的终结和在电脑站或电视屏幕上构建的新的主体性。”9通过扮演和呈现AI存在形式的异质，《她》反向推导了“后人类”关于身体消解的图景。

“相处”指向人机关系。电影对人机关系的探讨，受到跨媒介的滋养。在对“图灵测试”及阿西莫夫的“三法则”“第零法则”等规则的遵循、反叛和戏仿中，AI题材电影进一步丰富了人机相处的行为逻辑与伦理规则。人机关系的探讨和塑造，大致遵循着两条逻辑。一是将AI的主体性及伦理，与其他物种（自然造物）进行类比和间性协商。这种思路本质上是将AI“置于由自然系统、社会系统和心理系统构成的参考系中予以定位”10，据此建构人机关系。譬如与动物伦理论者的结合。《银翼杀手》中的“复制人”，即呼应了唐娜·哈拉维（Donna Haraway）以“同伴物种”概念11对赛博格的解读。二是逻辑侧重表现AI的反身性意识。福柯提出，反身的作用即“允许从行为或反应的方式退后一步，把它作为一个思考的对象呈现给自己，并质疑它的意义、条件和目标”。12在电影中，表现为具有高度意识的AI对人类的造物者身份和控制权力的反思。由亚力克斯·嘉兰编导的《机械姬》是一部回应“图灵测试”因忽略AI的反身性意识，而导致人机关系失序的作品。主角艾娃在隔离中通过了人类的“图灵测试”，却最终“绝情”且“不道德”地将帮助她的人类测试者抛弃在封闭的实验室。这表明它们之前的互动和情感表达，都只是AI在反身性意识的引导下所制作的幻觉，由此阐释了AI的伪装及其与人的间离。

二、AI电影：新“人机”关系下的想象赋能

无论AI题材电影如何构造想象并进行相关推演，其中心话语总是在揭示AI技术一种可预见的演进规律：AI将实现对人类能力的替代。这些功能上至人类社会中严肃或核心的事件，下至日常生活的多个方面。由于人们对“智能”的认知态度总是在效率进步的巨大功绩和主体性的威胁之间不断游走，一定程度上使AI题材电影在追逐假定叙事的想象之外，加深了对现实观照功能的要求。更为关键的是，AI是技术进程之物，而电影本身亦是技术艺术，因此，在呈现AI叙事的过程中，电影本体不再置身事外，仅作为人类命运的旁观者。有学者称：“AI电影或等同于未来电影本身的前景。”13这道出了AI相较于其他科幻题材，对电影自身的与众不同之处——并不是每一样科学技术，都能形成电影的自反性寓言。故而，我们可以拟人或诗意地说，AI与电影的关系从文本内部走向形式外部，囊括了对本体命运的预测，并逐渐随着技术突破并轨现实。

近来，在深层神经网络（DNN）模型下，能够“深度学习”（DL）的AI的出现。AI在自主化、代理能力上得到提升，同时AI电影（AI Movies）成为一个引起广泛关注的话题。并且，正如AI题材电影所建构出的核心——人机关系和“机器换人”14，成为进入AI时代后，关系电影生产乃至电影命运的主题。

由于AI技术是一个渐进过程，AI电影的含义起初也较为宽泛：利用AI技术自动完成电影某一制作流程，即被归入AI电影范畴。而狭义上的AI电影，指的是AI全自动生产完整影片，目前还处于愿景中。不过，近期以Chat GPT-4和Gen-2为应用代表的人工智能生成内容（AIGC，Artificial Intelligence Generated Content）进入电影业后，电影创作界和学界尤其关注这类AI对电影创作主体位置的冲击，探寻人类的创造力或想象力是否因此遭遇了根本性的威胁。

AIGC使人回想起哲学家罗伯特·罗曼尼辛（Robert Romanyshyn)描绘技术时的观点：技术让人类成为一个站在窗户后面的旁观者。15好莱坞已经产生相关震动，编剧行业指责使用这种“类艺术家”AI16的不道德，导致行业内“赤裸生命”17的出现。AI技术多久能实现狭义上的AI电影，并完成对从事电影行业自然人的替换尚不得而知，但无疑人机协作将随着技术渗透出现在各个制作环节。在陷入过分恐慌前，应首先对AIGC应用下的AI电影进行一种梳理，思考AI从何种意义上改变电影，以及自然人从业者在电影领域的定位。具体地说，问题集中于AI如何为想象“赋能”，是否造成了想象能力的替代，以及如何理解新“人机”关系。

AIGC与早前AI在电影其他方面应用产生了很大不同。非内容生成的AI技术已引入电影应用，无论是在电影生产层面的增效——例如AI的视频剪辑、字幕添加、特效合成和颜色校正等应用，还是辅助电影角色、制作、营销、发行等工作环节的决策，实际并未触及电影的想象能力，仅起到辅助效用，归根结底还是人脑想象力的影像实现。而AIGC的实现意味着电影创作环节的革新——不再是将存在于人脑内的想象，通过AI技术实现视觉化，而是让人脑未曾想象之物，实现视觉化。进一步说，AI逐渐走入电影想象的生产环节。

AI 为电影的想象“赋能”，涉及不少概念有待厘清。首先，AI 生产的影像，当属鲍德里亚的“拟像”——是计算和数据库融合下创造的非现实存在，“数字”（digital）和“模拟”（simulation）是AIGC影像的关键词。AI电影无疑根植于电影的数字时代，在AI电影实现自主化的内容生产前，笔者曾提出，“数字时代的电影更是在最大程度上释放了想象力的自由性和创造性，如今，电影已不再是人类半想象的现实，而几乎成为了完全虚拟的想象物。”18AIGC的滥觞和规模化生产趋势，再次验证了电影由“拟像”主导的未来。在此基础上的想象力竞争，抑将是未来电影的核心。

其次，AIGC中“想象力”的性质目前还饱受争议。尤其是AI的运作方式，尚不能取得AI具有想象力的说服力。雨果·明斯特伯格认为，电影基本运作方式中即包含人的想象力：“电影的运作方式与人类的想象力同构……在我们的心灵中，过去、未来与现在交织在一起。电影遵循心灵的法则，而不是外部世界的法则。”19对照AIGC，其产出的拟像有以下几个特点：其一，依赖过往电影想象的“元数据”。当前AI想象力的本质是大数据计算。徐冰“人工智能无限电影”的项目演示了这种基于“算法”（algorithm）想象的本质。通过预设剧本、视频、字幕、音频的模型，实现“交互”形式AI电影实质是“一种控制回路的反馈”20，使“观者发现自我，感知自己的行为带来的影响”。21显然，AI电影提供的想象，源于既往已存的电影，基于此，不少学者将AI称为“经验性想象力”。22其二，AI的“想象力”有进化的前景：算法迭代（Iterative Algorithm）和“代码转换”（Transcoding）等基本能力，使AI能够像人脑一样，将不同电影中的想象元素重组，开拓新的想象空间。由纽约大学AI研究人员开发的递归神经网络“本杰明”（Benjamin），在“学习”了大量二十世纪八九十年代的科幻电影后，利用长短期记忆（LSTM）技术解构这些电影的编剧思维，创作了科幻短片《走神》（Zone Out）。虽然这部短片整体上依然受到缺乏逻辑和故事性的批判23，但也彰显了AI在重组想象力方面的潜力。其三，就当下而言，AIGC处于技术初期，影像与文本均不足够通畅，作品想象力有限，因此AI尚不具备独立产出电影的能力，人类的协同不可或缺。比较具有说明性的例子是2022年12月Chat GPT在创作《安全地带》（The Safe Zone）时，囿于技术水平，工作人员需要不断在其偏离主题和情节连贯时纠正。以上特征，决定了目前的AI电影只是一种“人造物”的“造物”，AI尚停留于为电影想象“赋能”的阶段。

关于AI 想象力的问题，会是一个受制于技术极限的长期哲学论辩。同样，当前的技术水平和发展速率，也说明“机器换人”的问题对电影生产而言尚处于有限中。不过，AIGC 的出现，在客观上意味着电影创作和生产主体产生了协同性，即新“人机”关系的诞生——从过去的机器辅助人类，进化到人机的协同阶段的“双向互动”。未来也可能出现人类彻底辅助AI电影生产，或人类仅监督AI电影生产，乃至AI彻底自动化电影生产等情况。这对应了笔者在“深度学习”（DL）型AI诞生前，曾提出的担忧：“数字技术在解放电影创作者想象力的同时，是否也开始逐步‘接管’电影创作，以机器‘原创’抢夺电影创作者的想象空间？”24因此，AI的创作介入可能对电影艺术潜有怎样的威胁，以及在这种情况下如何处理“新人机”关系，可以说是未来AI电影发展的关键。

由于内容生成含有无穷的不确定性，人类无法回避电影创作权力的下放，使人们必须面临克服惰性的挑战，警惕对AI自主能力的依赖。正如电影中对强AI的普遍想象，人类过于依赖高度自主能力的AI，使其存在操纵、滥用权力的可能。“深度学习”（DL）型AI的计算思维，归根究底难以趋同人脑中的艺术追求，其技术的底层逻辑是利用数据特征迎合观众兴趣。目前来看，AI电影在影像形式上，虽然与自然人创作的电影别无二致，但内层表意中对电影艺术如何建构的理解，仍比较薄弱。例如，“本杰明”（Benjamin）的作品《日泉》（Sun Spring）体现出AI并不理解人类的语言逻辑，使台词沦落为断裂的符号，破碎的叙事也显然不是对现代主义风格的刻意为之。美国底特律的公司Waymark，利用Open AI 的图像模型DALL-E 2生成AI电影《霜》（Frost）时，工作人员观察到AI对面庞表情和嘴唇颤动“非人”的不自然处理。有研究指出，AI的智力与价值观之间未必协调。25这也说明AI对艺术的“领悟”实际是匮乏的，甚至尚不存在的。此外，计算与筛选过程对商业特征的过度迎合，也极易造成与电影艺术本质抵牾。如斯塔姆所述，AI电影将擅长利用“变化多端的科技来制造晕眩与极度的兴奋”26，因此监管的不及时，或放任AI进行这类电影拟像生产，即便短时内收获流行效果和商业回馈，但最终容易引发电影创作的思维定式、想象力的“信息茧房”等问题，造成电影艺术力的衰落。

其次，对于人机互动过程中信息交换和协商趋势，需要及时进行反思。这将是电影从业者此前不曾具有的责任和积极作用。数据交互和再处理是AI“深度学习”的核心。Chat GPT近来备受瞩目的原因，即在于它实现了与人类协同者“对话”的能力，使得人机间的信息流动更加具体可感。这种变化也意味着人机互动过程，或可有效地缓解长久存在的“技术黑箱”恐惧。技术具有不透明性，AI技术真正运行的过程宛如一个未知的“黑箱”（black box）。众所周知，即便是人工智能领域的科学家也不能详尽分解所有计算过程，输入指令和接收结果更是AI技术普通用户的常态。因此，对信息交换和协商过程中的反思，虽与分解AI电影的原理无关，但能在利用对话的机制中，缓解AI电影的“黑箱”焦虑，并明确AI电影生产的责任且规范其发展趋势，以提高AI电影的质量。

最后，“新人机”关系阶段，相关协同者还需要协助AI电影重新建构规范。包括探索如何能使AI在进行电影创作与想象时，如人类创作者一样，恪守电影创作的底线。底线问题不仅指的是符合艺术力或者说大众文化品位的影像内部问题，更是“电影工业美学”要求下的工作流程规范问题。AI能否遵从近百年来逐渐建立的所有电影行业规范，尤其值得考究。第一，AI的高效性很可能导致“创意”劳动的价值瓦解，从而极大地影响生产流程中的劳资关系。与此同时，AI所呈现的看似高效但实则拼贴性的创意，也会破坏良性的创作生态。第二，许多实例已经证明AI电影可能引发法律风险，譬如在电影版权问题和分级意识上的争议。自AIGC面世以来，一直备受版权侵犯的困扰，包括来自作者、画家及喜剧演员提起的法律诉讼。不少技术人士也诟病GPT-4等模型易侵权已有版权的视频。因此，AI电影需要在人机协同中，通过数据收集和反馈，制定更为有效和全面的工作规则和筛选标准来应对这些问题。

三、“人造他者”的“镜像”：技术相关的伦理反思

在AI 题材电影持续显现的技术寓言中，人们能够较为直接地感受到电影的“技术自反性”批评的功能。例如《大都会》中的玛丽亚之于AI换脸技术,《2001：太空漫游》中的HAL9000之于自动生产方案的AIGC应用,《她》中的萨曼莎之于屏幕形式的AI操作系统等。大卫·罗多维克在世纪末观看《黑客帝国》（The Matrix)后，雄辩地认为：“（这类）电影在为自己的美学存在而战。”27而布卡特曼则对此解释为，紧密平行于技术关注的影像，有助于描绘出这个新世界的“方法论地形”。

不过，在形而上的技术灵感之外，AI题材电影在“技术自反性”批评层面更加需要强调的，或者说更具现实性的意义，在于通过构造AI相关的伦理疑难，以此唤起AI电影相关的伦理反思。显然，唯有伦理议题，使“人”作为AI和电影间的纽结得到最大程度的凸显，这也是理解电影和AI关系的核心。毕竟，“人造他者”的身份指认，宣告了AI总是建立在人类主体位置（Subject Position）和主体性（Subjective）的相对位置上，人与AI技术在伦理关系上的适应和处理，是与生俱来的问题。

从现实层面看，思考人类安全28已成为AI全行业关注的重心，对于AI电影来说，更紧迫地集中于AI影像在责任、隐私、公平性等方面所引发的伦理和道德安全。此外，正如上文所提及的，AI电影的发展或将威胁电影本体：AI有可能改变电影的艺术本质，也有可能在电影这种形式中，使人类自身成为技术改造的对象——恰似AI题材电影中的世界秩序，被AI所颠覆一样。

AI题材电影始终在隐射现实技术特征的逻辑下，在假定性的叙事中将AI自身伦理和与人的关系推向多元和极致，从而“以想象的方式直面和清理技术发展给人类带来的疑惑、焦虑、矛盾等各种复杂的情绪”。29更重要的是，AI题材电影所呈现的伦理问题虽然是虚构的，但始终以人文主义关怀为基点，坚守着人本主义的“向善”立场。因此，AI题材电影中所涉及的伦理危机和底线的探讨，无疑对AI电影的技术应用具有合理的关切，也为AI产业提供了关于“人学”底线的重要参考。

电影中“人造他者”遭遇的伦理问题所抽象出的警示性，紧密地折射在AI电影的以下三个方面：

第一，虚拟与真实之辩。首先是图像层面的虚拟与真实问题。AI与虚拟现实（Virtual Reality)技术间存在一种独特的联系，是AI题材电影体现技术伦理前瞻性的重要角度。《黑客帝国》中的设定较为典型，AI通过被称之为矩阵（Matrix）的虚拟世界，控制人类的感知和思维，并奴役人类。和现实相比，《黑客帝国》虽然夸大了AI技术制造虚拟景象的边界，但深刻地展现了AI技术在虚拟现实生成上的优势。类似的电影均通过构建一个主要基于视觉假象的世界，解释了人类对图像信任中潜含的伦理困境。虚拟与真实作为AI题材电影始终的兴趣，一定程度上隐含着当代由图像组建出的文化惯习。对此，朱利亚娜·布鲁诺（Giuliana Bruno）总结为：“人们已逐渐习惯照片和影像作为证明历史和连续性的证据。”30电影《西蒙妮》也对基于图像衍生的伦理困境做出寓言：人们在崇拜“程序”女明星西蒙妮的过程中，逐渐丧失分辨真实和虚拟能力，折射出人们对虚拟图像产生的拜物情绪。更严峻的是，在VR技术的基础上，当前AI已发展出的深度伪造技术（Deepfake）。AI自动合成的视频（广义上也可看作是AI电影）已逐渐流入商业市场，打破了“所见即真实”的规则，未加管制的滥用，将会对视觉伦理产生巨大威胁。

除了视觉意义外，情感的虚拟与真实，是另一重伦理风险。在AI技术的作用下产生的情感是否真实，也是AI题材电影的经典话题。《人工智能》的结局，用基因复制出的母亲，与大卫“母子团聚”，实际上回避了母亲和其他家庭成员对大卫感情是否真实的问题。并且，大卫的道德水平是一种充满善意的想象，而实际的AI技术，在没有形成完善的行业规范前，已投入使用。深度伪造技术和情感欺骗引发伦理问题已经在当前的AI影像实践中出现，即AI“捏脸”技术下生成的虚拟角色，通过量化人们的情感需要和精神诉求，攫取人类的真实情感获益。因此，这一形式可能导致使用者忽略现实中的情感责任，继而存在违反道德观念的隐患。

第二，“算法”逻辑下的伦理疑难。“算法”被认为是AI最深层次的伦理维度31，也宣告了AI与人相异的“他者”逻辑。不少AI题材电影已捕捉到AI在“算法”思维下的一些伦理悖论。例如《流浪地球》构造出的极致假设：AI系统Moss为了严格执行“领航者计划”和“火种计划”，突破了伦理限制，造成了马卡洛夫中校的死亡。这个例子点明了AI的“算法”逻辑某种程度上较为贴近马克思·韦伯所言的“工具理性”，即“把实现目的的工具及其效用作为考量核心”。32算法常常为了实现底层指令，对元数据的反思不足，加深了元数据中潜在的偏见。因而存在合理性上的缺陷，尤其是对情感的忽略或思想上的异化表达。AI电影的“算法歧视”也是常被讨论的主题。“算法歧视”指的是“由不完全或不合理的数据分析所导致的对特定群体或个人实施的不公正待遇。”33计算结果中的歧视出自人类信息的引导，并在反馈循环的机制下，再次加深人类在种族问题、性别歧视等方面既存的偏见。因此，强调人机双重伦理属性34的“算法作者”和“电影算法的工业美学”，或将代表着电影行业的应对之策。

图3.电影《人工智能》剧照

第三，“人造他者”的伦理测试是一种虚无的愿景。这个问题一定程度上承接了AI算法逻辑引发的疑问：如果算法是一种必要的规则，那么人类能否制造出一种尽善尽美的“伦理测试”或道德算法以解决一切的伦理困境？当前，许多AIGC电影的研究，都着意于探讨对人类尊严感和隐私权的潜在威胁。AI在处理大量人类电影作品的同时，是否会成为某种人类意识上传的实践？AI电影的反馈、交互的形式，是否成为AI掌控人类弱点的一种方式？越是这样，人们越渴求发明一种全面评估AI同理心、意识、情感等方面的伦理测试体系，以解决这些担忧。简而言之，对于Al电影的未来目标，不仅仅是建立一种技术文化，而是建立一种技术人性。

为“人造他者”发明完善的伦理测试，在AI存在的众多领域中都呈现为一种原始的期待。然而遗憾的是，图灵测试、控制论以及阿西莫夫的“三法则”和“第零法则”——这些既往历史中的发明尝试，在电影媒介特性下获得更多预测空间的同时，众多AI题材电影也对它们的实际可行性一一作出消极判断。例如《机械公敌》改编自阿西莫夫的小说《我，机器人》，对其提出的机器人“三法则”进行场景还原，发现在极端情况下，对人类总体和个体的保护是相悖的。《机械姬》则通过想象，提示“图灵测试”中，对AI同类和心智的忽略，可能造成严重的AI伦理的问题。在图灵的最初测试中，为规避人类的偏见，采用了远程的、隔离的模式，而由此导致的封闭性受到了后来者的严厉批判。35《机械姬》中，艾娃通过了“图灵测试”之后的态度逆转，说明人类在高高在上地享受测试者的地位和智能技术时，对AI的伦理规则和危险一无所知。总体上看，“人造他者”的伦理测试是一个理想的未完成的任务，至少在AI题材电影中，预测了它的虚无性。

此外，某种程度上讲，“人造他者”的伦理测试总是能归旨到人类内部。伦理测试作为一种人性的渴求，在人类领域本身即是充满矛盾的，也衍生到作为人造物的AI技术中。在《人工智能哲学》一书中，作者拜伦·瑞希认为打造一个符合伦理的AGI，总要面临的三大挑战：“首先，人类对什么是道德标准没有共识。其次，道德标准的目标不断变化。第三个挑战是，即使你已经克服了所有这些，我们自己的道德准则仍然被错综复杂的异常、限制性条件和特殊情况所阻碍，而这些也妨碍了道德准则被以简单的方式实例化为计算机程序。”36举例而言，人们通常反对AI电影生成人体残肢的暴力镜头，但如果是为了在战争灾难片中表达更深层次的伦理反思价值，接纳幅度便有所变动。就当前技术阶段而言，类似的不确定性，意味着算法的局限将持续存在，人们仍然需要介入解决Al在影片中暗藏的伦理问题，以确保人类的尊严和价值得到尊重。只有这样，才能在AI技术的发展中保持电影的人性，并引导AI的电影创作为人类提供更加深入和有意义的视角。

总的来看，从伦理的维度上，电影内的“人造他者”充分发挥了作为现实中“人造他者”的镜像功能。当然，AI题材电影对AI电影的伦理预警，并非电影第一次回应技术伦理问题，事实上，反馈技术伦理问题，始终是电影的一种使命。20世纪30年代，以卓别林的《摩登时代》为首的作品，作为技术批评电影雏形，曾对“福特主义”发挥过引人深省的伦理折射，揭示自然主义伦理时代的逝去，人们在自我迷失前，亟需建立与大机器适用的新伦理。电影的这种使命得到了刘易斯·芒福德的肯定，并且进一步指出：“机器文明的一切机制都必须服从人的目的，人的需求。”37

与近百年前的情景无比相似，越来越多的学者预测，电影的未来似乎已经无法离开AI而独立生存，电影作为人文艺术有被奴役或消灭的危机。同时，AI电影技术无疑实现了电影生产者的范围扩充，“人人都能独自生产电影”已经成为电影AI时代的口号。这意味着AI电影伦理问题的泛滥，会形成冲破单一行业的普遍性伦理忧虑，即再次对应了AI题材电影总是将AI打造为世界难题。因此，“为了伦理的安全，必须为人工智能的发展设置某个限度”38成为当下普遍的呼声，这并不是AI题材电影想象推导出的恐吓与怯懦。总之，随着技术加速，AI题材电影会持续为AI技术的伦理治理提供灵感，产生更多作为“现实之镜”的积极意义。

结语

从电影中的AI到AI电影，简单来看，它们在电影的内外部共同表现了随着世界的技术化进程，人的功能和重要性的逐渐衰退。而曾经居于电影想象的AI技术，落地现实并介入电影的技术体系，同样反映出数码和虚拟影像泛滥后，随着技术越来越居于电影生产中心，人在电影艺术中的焦虑。过去的AI题材电影，已经成功在假定叙事的想象中呈现这一趋势：AI总是在人类的卧榻之侧，世界对人类来说，变得不像过去的样子。仿佛就在下一秒，现实中的AIGC已经开始入侵电影的叙事、角色和创意，并冲击了电影的想象形态，解构人类在电影想象力层面的中心地位。拟像生产的优势下，未来的AI是否会主导电影的“想象力消费”，不仅会是一个备受关注的问题，也将是电影必须面对并解决的问题。

本文从电影“技术自反性”批评的角度，解读了电影与所记录的AI技术之间的相互作用，提出重视AI题材电影提供的AI伦理问题的索引意义。如果说AI题材电影始终致力于在反映技术的过程中，帮助人类走向自我完善的过程，探索如何构建和重建人类的优势，那么它同样启发着电影积极拥抱AI技术过程中，如何继续映现着人类的心灵与灵魂。如此，我们依旧能充分地相信，AI和电影的未来，仍建立在对人类经验的理解和伦理的规范之上，仍然指向着我们如何看待“自我和世界”。

【注释】

1 参见陈旭光.人类命运共同危机的“世界想象”与“中国方案”——评影片《流浪地球2》[J].当代电影，2023（02）：26-29；陈旭光.2023年中国电影春节档：观察与启示录[J].文化艺术研究，2023（01）：76-83.

2 陈旭光.人类命运共同危机的“世界想象”与“中国方案”——评影片《流浪地球2》[J].当代电影，2023（02）：29.

3 电影的“技术自反性”批评概念参见Brian R.Jacobson .Ex Machina In The Garden[J].Film Quarterly,2016,69(04):23-34。当前电影的“技术自反性”批评可包括数字模拟技术、AI技术、元宇宙、影游融合等。

4 同3，33.

5 J.P.Telotte.Science Fiction Film[M].Cambridge,Cambridge University Press,2004:81-82.

6 Lester Friedman,David Desser.Science Fiction,An Introduction to Film Genres[M].Norton,2014:342.

7 同5，102.

8 参见[美]库兹韦尔.奇点临近[M].董振华，李庆诚译.北京：机械工业出版社，2011：12-15.

9 Scott Bukatman.Terminal Identity:The Virtual Subject in Postmodern Science Fiction[M].Durham,N.C.:Duke University Press,1993:9.

10 黄鸣奋.科幻电影创意与机器伦理[J].江西师范大学学报（哲学社会科学版)，2018，51（05）：49.

11 参见但汉松.“同伴物种”的后人类批判及其限度[J].文艺研究，2018（01）：27-37.

12 Michel Foucault,James D.Faubion.Aesthetics,Method,and Epistemology[M].New York,New Press:New York,1997:117.

13 陈瑜.对人工智能电影几个关键问题的再思考[J].文艺争鸣，2019（07）：88.

14“机器换人”概念参见潘恩荣，阮凡，郭喨.人工智能“机器换人”问题重构——一种马克思主义哲学的解释与介入路径[J].浙江社会科学，2019（05）：93-99.

15 Robert D.Romanyshyn.Technologyas Symptom and Dream[ M ] .London :Routledge,1989:114.

16 由算法独立自行完成的影像作品，对应着艺术家的媒介考古谱系学路径。参见李岩.人工智能电影：一次未来考古学研究[J].当代电影，2022（08）：45.

17 “人工智能的快速发展，仅在电影产业中就会出现大量的赤裸生命，有真实人的赤裸生命，也有被作为数字资产但出现意识觉醒的数字赤裸生命。”黄莺.人类物质颗粒与数字赤裸生命：人工智能对影视产业的赋能与负能[J].北京电影学院学报，2023（07）：79.

18 李卉，陈旭光.论电影想象力及后电影时代的想象力消费[J].上海大学学报（社会科学版），2022，39（03）：60.

19 Allan Langdale.Hugo Münsterbergon Film:The Photoplay——A Psychological Study and Other Writings[M].New York:Routledge,2002:91.

20 孙鑫.动态影像艺术的反叙事性研究[D].东北师范大学，2018：75.

21 周婉京.从“蜻蜓之眼”到“AI之眼”——论徐冰《人工智能无限电影》背后的视觉机制[J].北京电影学院学报，2022（09）：52.

22 刘方喜.“知性的僭妄”与打不败的想象力——人工智能的人文之思[J].探索与争鸣，2017，337（11）：69.

23 赵瑜，张亦弛.Chat GPT将如何影响影视产业？——生成式人工智能背景下的影视产业发展趋向[J].电影新作，2023（02）：6.

24 李卉，陈旭光.数字时代电影想象的转型与想象力消费[J].现代传播（中国传媒大学学报），2022，44（08）：91.

25 王汝坤.论广义进化论视阈下的人工智能伦理问题[J].上海交通大学学报，2022，30（01）：58.

26 [美]罗伯特·斯塔姆.后电影：数字理论与新媒体.电影理论解读[M].陈儒修，郭幼龙译.北京：北京大学出版社，2017：379.

27 Rodowick,D N.The Virtual Life of Film[M].Harvard University,2007:4.

28 傅盛，陈洪伟，赵霁等.向度与趋势：人工智能的发展及其与电影的结合[J].当代电影，2023（08）：7.

29 秦喜清.我，机器人，人类的未来——漫谈人工智能科幻电影[J].当代电影，2016（02）：64.

30 Giuliana Bruno.Ramble City: Postmodernism and Blade Runner[J].October,1987(41):74.

31 王天恩.人工智能算法的伦理维度[J].武汉科技大学学报（社会科学版)，2020，22（06）：645.

32 [德]马克斯·韦伯.经济与社会（上卷）[M].林荣远译.北京：商务印书馆，1997：75

33 谢永江，杨永兴.人工智能时代下的算法歧视及其治理研究[J].北京邮电大学学报（社会科学版)，2022，24（05）：19

34 参见张立娜，陈旭光.“算法作者”的创作思维与美学原则——算法时代电影工业美学之伦理转向[J].上海大学学报（社会科学版)，2023，40（03）：65.

35 施魏策尔批评图灵测试缺乏社会性。参见王瑞瑞.目光投射、语言调用、后图灵测试——科幻文学中的机器情感问题一探[J].福建论坛（人文社会科学版)，2022（08）：114.

36 [美] 拜伦·瑞希.人工智能哲学[M].王斐译.上海：文汇出版社，2020：187-188.

37 [美]刘易斯·芒福德著.技术与文明[M].陈允明，王克仁，李华山译.北京：中国建筑工业出版社，2009：377

38 赵汀阳.人工智能“革命”的“近忧”和“远虑”——一种伦理学和存在论的分析[J].哲学动态，2018（04）：7.