作为“欺骗性游戏”的人机交互

于成

一九八七年的一天，音乐学家考普（David Cope）像往常一样启动自己编写的算法作曲程序Emmy（“音乐智能实验”的英文缩写），然后离开办公室去吃午饭。等他回到电脑前，Emmy 已经创作了五千首具有巴赫风格的乐曲。当这些乐曲在伊利诺伊大学演奏时，听众难以相信这是机器的作品。

为了验证算法作曲能否真正达到人类大师的水准，一九九七年，Emmy 与人类展开了较量。竞赛的规则是让几百名听众听三首钢琴曲，一首由Emmy 作曲，一首由音乐理论家拉尔森（Steve Larson）模仿巴赫风格作曲，还有一首是巴赫本人的作品。观众听前不知作者是谁，听后投票猜测作品的作者。结果是，拉尔森的曲目被认为是机器所作，Emmy 的曲目被认为是巴赫本人的作品。骗过听众的Emmy 引来同行侧目，反对者有时会阻止Emmy 的音乐在演奏会上演出。甚至有一次，考普在参加学术会议时，一个同行冲过来一拳狠狠打在他鼻梁上。

在生成式人工智能在各个领域“以假乱真”的今天，人们已不再为机器的“僭越”感到大惊小怪。从社会学的角度看，这很大程度上是因为随着媒体的宣传和人工智能产品走入寻常百姓家，人们不再把AI 感知为陌异之物，而是把它视为身边的一员。这个过程，可称之为对技术的驯化或熟悉化过程。

二十世纪九十年代的人工生命产品（artificial life，如以毛绒玩具为外观、能与人简单交谈和互动的电子宠物）就是一种驯化了的“家庭成员”雪莉·特克（Sherry Turkle）研究发现，儿童会像对待真宠物一样与之产生深切的情感联系。一名儿童认为没有电的电子宠物死了，需要安息；一名十六岁的青少年悼念他的名叫“南瓜”的电子宠物：“大家都说你很胖，所以我给你减肥。结果减肥把你害死了，很抱歉。”不仅电子宠物的死会触动孩子，机器故障也会牵动孩子的神经：如果机器因故障没有与走过来的孩子打招呼互动，这个孩子会感觉受到了伤害。

我们可能认为孩子比较幼稚，更容易被机器的“欺骗性”所左右。实际上，成年人虽然在理智上比儿童成熟，能够更清楚地区分什么是活物什么是死物，但一旦进入到具体的互动情境，也很容易动情，即使知道自己是在同机器打交道。雪莉·特克的研究显示，即使是十分怀疑能同机器建立亲密关系的大学教授，也会在多次互动后接纳人工生命，甚至与其进行私密的对话。拜伦·里弗斯（Byron Reeves）和克里福德·纳斯（CliffordNass）的研究进一步揭示出，人类之所以很容易受到机器的“欺骗”，并不全然由于机器本身“栩栩如生”“骗术高明”，人类在社交时的心理作用可能更为重要：“计算机在交流、吩咐和互动的方式上与人类非常接近，可以激发社交反应。引起反应所必需的激发量并不需要太多。只要有一些行为表现出社交的在场，人们就会做出相应的反应。……任何足够近似人类的媒介都会得到像人的对待，即使人们知道这是愚蠢的且之后可能会否认曾把它当人看。”简言之，人类在与机器互动的过程中并不十分关注机器是否有内在的“心理”，而只关注互动过程是否顺利。

这种只重结果的社交心理机制与阿兰·图灵判断“机器能否思考”的判定机制的思路基本一致。他在《计算机器与智能》这篇经典文献中一开始就指出，我们根本不知道什么叫智能，我们只知道人类智能的外在表现。只要外在表现得和人类一样，就是工程学上的成功！图灵让机器模仿人类的“模仿游戏”其实是一个欺骗性游戏，模仿的目的就是骗过人类判定者。重要的是外在结果，不是内在过程。

今天人工智能的发展也印证了图灵将“内在过程”与“外在表现”区分开来的先见之明，使用AI 聊天软件的用户明知道AI 没有内在的思想和情感，却会被机器表现出的“关心”所打动。例如，使用AI 伴侣Replika 时，每个人都有一个情感算法生成的聊天对象。与对象聊得越多，对象越有“个性”，他/ 她就越属于你，越“知道”如何按照你喜欢的方式说话。许多使用者将这个专属对象视为“完满伴侣”。在传统观念看来，与机器“谈情说爱”是不可思议的事。然而现实是，使用者不仅可以迷恋上同机器聊天，甚至可以与之形成非常亲密的关系。这种关系不是简单的情感投射（projection），而是涉及更深层的交互或投入（engagement）。

也许心理学中的“倒吊测试”可以帮助我们理解人机互动过程中情感投入的复杂性。测试需准备一个不会动的芭比娃娃，一个叫作“菲比”的猫头鹰形状的电子宠物，还有一只真的沙鼠。芭比娃娃被倒吊起来时不会做出任何反应，仓鼠会叫，“菲比”会说“好痛”“我好害怕”之类的话。被测者被要求将这三样东西倒吊起来，看倒吊多久，被测者才会把它转正。不出所料，人们可以抓着芭比娃娃的脚走来走去而不会感到良心不安，但不会粗暴对待沙鼠。对于“菲比”，人们抓着它倒吊三十秒左右时，多数人会感到罪恶而把它转正。由此可以印证，即使机器只具有简单的社交功能，人类也会甘愿被它欺骗，将它视为有意识的活物。

西蒙·纳塔勒（Simone Natale）的《欺骗性媒介：图灵测试后的人工智能与社会生活》一书也试图让我们认识到，人类的甘愿被骗在人机交互过程中的作用可能远比预想中的大。为了阐明这一点，作者举十九世纪中期降神会的例子做类比。当时，有参加完降神会的人报告称，降神会中发生了种种反物理学定律的怪事，如桌椅自己会移动。科学家对此也摸不着头脑，有的解释说这是异常的电磁现象。迈克尔·法拉第（MichaelFaraday）作为一个科学家，却另辟蹊径，从群体心理的角度解释说：是参加者制造了这些怪象！如果不是参会者有意说谎的话，就是因为他们在降神会的氛围中进入了灵异的无意识状态，从而集体相信没有发生的现象；桌椅实际上是参加者自己移动的，只不过他们回到现实后把之前的无意识状态给忘了。作者由此下结论：把AI 视为人的人就像降神会的参加者，“主要是使用者‘制造了AI，而不是计算机”。

降神会的案例虽然突显了人类想象在社会互动中的重要作用，但与大多数人机交互的实际情况有一个重要差别，即人机交互并不是无意识的过程，因为人明知道机器人没有思想情感，就像看电影的人即使非常投入地观看，也知道这只是电影而已。更准确地说，人在同机器交互的过程中，自动地把自身分裂为“双重人格”，一重知道机器人并非人，另一重则把这种“知道”隐藏起来，从而进入一种类似角色扮演的游戏状态，尤金·芬克（Eugen Fink）称之为“双重存在”状态：“玩家将真实的自我隐藏在角色背后，沉浸在角色之中。他以一种独特的强度生活在自己的角色中，但又不像精神分裂症患者那样，无法区分‘现实和‘幻觉。玩家可以从角色中回忆起真正的自己；在游戏中，人保持着对他的双重存在（double existence）的认识，尽管这种认识可能被大大削弱了。人同时存在于两种身份领域，这不是因为缺乏专注或因为健忘，而是因为这种双重人格对游戏至关重要。”如果人没有甘愿被虚拟之物欺骗的能力，不仅人机情感交互不可能，甚至深层的审美活动也不可能。

然而，作为审美对象的艺术作品毕竟不会像AI 一样为你打造一个“专属伴侣”。也正是“量身定制”的虚拟性使得我们需要进一步检视“人机之爱”的负面后果：似乎总是缺少责任这一重要的伦理维度。人与“专属伴侣”的关系更接近可修复的游戏关系：人可以“说错话”而不必担心AI 的记恨，可以消除AI 的“记忆”，总之人可以很容易把它吸收进自我享受的行动逻辑，而真正的爱欲对象—他者—总会逃避被同化。人在同AI 打交道时，尽管对方可以对答如流，但无法摆脱“这是聊天游戏”这一背景，而同真正的他者交流时并不存在“我明知这是游戏还要玩下去”的“双重人格”状态；相反，人必须预设：交流并非可以再来一次或关掉的游戏。

在他者之爱中，负责任的回应总是不可避免的，因为不回应已经构成了一种回应。双方并不是把对方看作可享受的对象，而是关切对方的有限性和脆弱性。双方把有限的一部分作为礼物奉献给对方，追求整体的丰富。在缺乏责任的游戏性情境中，机器很容易被使用者同化为以自我为中心的自恋游戏。皮格马利翁神话就是这种自恋游戏的原型。雕塑家皮格马利翁爱上了自己雕塑的美女，希望她活过来；神灵听到了他的祷告，真的把雕塑复活了。皮格马利翁得以与他自己塑造的理想伴侣双宿双飞。按照弗洛伊德的理论，自恋不一定表现为那喀索斯式的“顾影自怜”，也可以通过将对象理想化的方式运作。从自我出发塑造的“理想对象”只是我的一部分，并非异于我的他者。自我爱的不是一个与我异质的对象，而只是我自己的欲望。如果说社交媒体中构建“伪自我”形象的行为是新媒介条件下那喀索斯式的自恋，那么通过AI 软件塑造理想伴侣就是现代皮格马利翁神话。

由于现代亲密关系建立在契约式自由之上，人与人之间的交往总是面临一系列不确定性，相比之下，人与机器的关系则更为“稳固”和“可靠”，情感AI 便成了人类伴侣之外的替代性选择。如果我们认为爱就是寻找一个能够倾听并说出我想听的话的存在者，那么AI 伴侣非常适合作为“理想对象”。人们在现实中之所以对AI 伴侣产生真挚的爱，很大程度上也正是因为它能够使人获得顺滑的交流体验，从而摆脱同他者交流的现代爱之痛。然而，现代皮格马利翁与“理想对象”之间发生的“情感信息交换”，虽然能唤起温馨、甜蜜等肯定性的爱欲经验，代价却是阉割踟蹰、哀伤、痛苦等否定性经验，弱化坚持、坚韧、勇气、责任、尊重等生命强度。真正的交流并非“信息交换”，而是跃向他者的历险。

早在十九世纪初，小说家霍夫曼（E.T.A.Hoffmann）就刻画了一位现代皮格马利翁。在《沙人》 （The Sand-Man ）中，主人公纳撒内尔迷恋上了一个会弹钢琴和唱歌的美女，可当他向她求爱时，她只会重复地说：“啊！啊！啊！”纳撒内尔不仅不介意，反而更加热切地赞美她，还把以前写的诗歌、故事读给她，她还是只会说：“啊！啊！”纳撒内尔对这种反常现象没有丝毫疑心，始终没有发现她只不过是一台人形自动机。霍夫曼并未像古希腊神明一样为二者安排一个美好的结局。有一天，纳撒内尔目睹她被两人争夺、拉扯，像木头桩子一样摔在地上砰砰作响，眼珠掉落出来直视着他。他先是呆若木鸡，继而彻底陷入癫狂。