人工移情:新型同伴关系中的自我、他者及程序意向性

何双百

随着新型机器人的不断面世,越来越多的社交机器人进入此前只有人才被允许进入的情感领域。人与机器的交往互动究竟受什么驱动？其关系本质是什么？在这篇文章中,讨论的范围主要限定在社交机器人的问题上。一些研究人员认为,通过与机器人尤其是具有社交意识的机器人进行深入的社交和情感互动,人类与机器人可能建立伙伴关系乃至爱情关系①,那么对于那些相信与机器人相处就好比在和真正的宠物或者真正的人在互动的人来说,这中间是否存在欺骗性？如果有的话,这种欺骗或自我欺骗在道德上可以被接受吗？所有的人机交互研究都需要一个更广的镜头和更细的焦点来解释正在出现的各种交互关系,论文拟用一种不偏袒人类优势的方式来审视人与社交机器人之间的新型同伴关系,从现象学角度对这种“连接的”关系受何驱动及其本质进行探讨,借助于唐·伊德(Don Ihde)技术现象学中关于意向性的概念,论证当我们在与社交机器人互动时,除了传统意义上移情的作用,我们的行为还受到具身、诠释、它异和背景关系的调节乃至程序的影响。

一、与社交机器人共存:新型同伴关系中的自我和他者

社交机器人(social robots)拥有一定的自主性,“能够遵循社会行为和规则与人类或其他主体进行互动或交流”②,包括情绪识别、行为解读、聊天互动等。所以,此处的社交机器人排除屏幕上的虚拟角色,界定为有实在的形体。目前关于社交机器人研究最热门的两个领域分别是计算机学科和人文社会科学,前者关注社交机器人背后的技术问题,后者多从机器人的影响及治理等角度进行探讨。越来越多的技术哲学家探讨人与技术的关系,其中现象学技术哲学最为明显,美国哲学家伊德将后现象学的关注点转向地方(place)问题,荷兰哲学家维贝克(P.P.Verbeek)、德国技术哲学家索菲·略奥迪特(Sophie Loidolt)都延续着现象学传统思考社会生活领域中的主体性、他者和多元性问题,此外,先验现象学家休伯特·德雷福斯(Hubert Dreyfus)、丹·扎哈维(Dan Zahavi)和德莫特·莫兰(Dermot Moran)等提出的具身认知概念也随着人工智能的发展逐渐成熟。

特克尔(Turkle)提到:“当我们和机器人谈情说爱,和智能手机难舍难分,我们通过机器重新定义了自己,也重新定义了我们与他人的关系,我们与机器人的关系正在升温,却变得越来越孤独。”③人们对待机器人好比是宠物、朋友,甚至是密友、恋人。人类在和机器人分享情感状态之前,首先需要有一个自我和他者的概念,然后通过移情,把他人的情绪状态视为自己的情绪状态,在这个过程中,不可忽略机器人的特性在互动过程中所扮演的角色。

目前,机器人研发领域在创造使用面对面交流的具体“关系代理”和“社交”机器人方面已经取得了很大进展,这些机器人似乎具有情感,例如由麻省理工学院媒体实验室开发的具有面部表情、能模仿人类情感的机器人凯斯麦特(Kismet),随后开发的带语音和面部识别功能的纳西(Nexi)、莱奥纳尔多(Leonardo)、哈格伯(Huggable)、阿伯特·胡宝(Albert Hubo)以及吉宝(Jibo)等,能够与人进行积极的基于情感的触摸式互动。中国科学院研发的情感机器人“童童”可以提供公共服务,日本索尼公司发明的能学习新技能并表达感情的“爱宝”,以及能唤起人的倾诉欲、最具治疗性的“帕罗”(由日本柴田崇德发明),不仅可以充当人工宠物还可以成为“同伴”,“为信息服务、家庭安全、医疗保健、老年人护理和家庭任务做出贡献”④。例如,他们可以在房主度假时看管房子,帮助医院的护士监控病情不稳定的病人,陪伴老年人脱离独居生活等。

不断与机器人互动的人们开始觉得机器人是“我们中的一员”,这是一种“同伴的感觉”而不是他者,成为人类同伴的可能性取决于什么？与朋友的意义是否一样？我们可以试着从人类与机器人互动的感觉开始,了解发生了什么让人与机器人可以建立社会关系,这需要考虑许多条件,例如某种程度的互动和交流能力、一定的认知和模仿行为,机器人还需要有机会在日常的人类社会环境(而不是实验室或计算机模拟)中锻炼这些能力,如果能在参与社会互动的过程中有协调彼此行动意图及情感意图的能力,就更能满足人类不断变化的需求偏好。⑤所以下文重点探讨这种同伴关系的前提,即成为同伴的必要(但不充分)条件之一是移情,进一步说,机器人作为同伴取决于机器人作为人类移情接受者的能力。

二、从人工智能到人工移情,新型同伴关系如何生成

(一)从智能到情感:人工移情中的脆弱镜像

仅是人与人之间的移情就是一个复杂的现象,涉及情感体验和认知评价等多个方面,如瓦拉克(Wallach)、艾伦(Allen)认为,“移情涉及到低级镜像技能、情感和高级想象”⑥,如果把这个概念换成人工移情,这个现象就更为复杂。首要问题是,人工移情意味着什么,即当人类和机器人的互动受到关注时,机器是否具有“人性化”特点。人工移情是保罗·杜穆切尔(Paul Dumouchel)等人创造的一个术语,用来描述“后人类发展状态下,在‘机器—机器’关系或‘人—机器’设置中发展和理解社会交互行为”⑦。在技术方面,它是由能够开发在社会环境中与人类成功互动的人工智能体的愿望驱动的,这种人工智能体不仅能够“阅读”人类的行为、思想和情感,还以越来越高的准确性对相关行为做出反应。我们乐于对机器人投入感情并被机器人抚慰或感动,很大一种可能是,智能机器人反映出了我们自己,人类的脆弱性。

我们的存在使我们变得脆弱,人类的同理心部分是基于对这种脆弱性的显著的相互认识,我们是彼此的“脆弱镜像”,我们可以对另一个人感同身受,因为我们知道自己和脆弱的人很相似。类似狗和猫等宠物也反映了我们的脆弱性:它们有它们的弱点、问题、性格、痛苦及需求等,这是我们接纳他们为同伴的必要条件。理论上,机器人如果符合这个标准,也可以被视为“同伴”,然而目前很多机器人都不符合这一标准,因为机器人的脆弱性和人类的脆弱性之间的差异太大。越是在一个领域里无懈可击、享有不朽的钢铁巨人,越难以让我们人类产生同理心,这意味着机器人如果被设计成小孩或宠物的仿生物实体,人的移情更容易实现。

还有人认为这种移情关系或许存在伦理问题:机器人宠物模仿人的形态特征或情感状态,这样的情绪是一种“表演”状态,似乎“欺骗”了人类,它们让我们相信它们值得我们同情,但它们只是“机器”,并不能真正反映出“脆弱性”,换个层面说,机器人可能提供老年人护理服务,但它们并不真正关心它们“服务”的人,因为它们不是生物,而且这种“欺骗”在道德上是不可被接受的。以上想法容易把人带入一个追求人际交往中那种关系对等的陷阱,机器人没有意识,他们怎么可能真正关心任何事情？又如何对人的各种情绪作出恰当、实时的反映？这些技术的迷惑完全可以用理性去揭示,偏偏人们更想要用感性去建立亲密关系,所以接下来要探讨的重点是为何人明明知道机器或许并不值得信赖,却不由自主地想要和它交流,甚至想象机器和人一样具有思想、情感或灵魂。

(二)被拉扯的“移情”:情感协调中的模仿与拟人

社交机器人的设计令我们不断渴望从它们那里寻求同理心,且在人与机器同理心的不平衡之间不断纠结,形成一种移情的“拉扯感”。移情不仅是一种道德价值,也是一种模仿学习的感觉运动机制,人工移情的问题同时也被看作是机器对人的模仿或拟人化游戏。移情和模仿有着相同的神经联系:镜像神经元。移情的情感基础是显而易见的,它使模仿的自我学习成为可能。同时,与机器人密切互动的人类将投射并寻找这些人工实体的移情反应。因此,人类与机器人建立移情联系的机制是人们最感兴趣的。日本学者浅田埝(Minoru Asada)等人的研究表明,能够以移情方式包括识别他人的意向并作出适当反应的能力的人工伴侣,在与用户建立和保持积极关系方面更为成功⑧,正如达米亚诺(Damiano)等人提到的“人机情感协调动力学”(human-robot affective coordination dynamics)那样,机器人可以激发用户参与包括情感在内的动态交互表达,而适当的反应触发了人类及其人工同伴的进一步互动,目标是让“用户情感化地响应,并逐步感觉到越来越多地参与到系统中以增强机器人的社交存在”⑨。

一般而言,模仿交往伙伴的姿势、习性、面部表情和其他行为,使其行为与其他人的行为相匹配,能够达到增加认同感、增进关系的效果,然而机器人是否能够有意识的模仿人的行为？考虑到目前的研究现状,我们只能说机器人模拟了人类的情感或心理特征,但是它们没办法实现更高层次的模拟,即经验和意识。经验是主观的,有或没有二元对立,不能交叠亦不能被模拟,意识和经验是一样的。从这个意义上说,机器人确实是不能移情的,他们最多表现得像有同理心,那么这种表现的像有同理心的行为在多大程度上会让人类与之互动时感到更加舒适？或者我们所期望的机器人的同理心本就不是完全意义上的移情,而是基于“拟人化”层面的想象性互动的乐趣？

“拟人化”是人类交流中典型的对非人类延伸的互动形式,也就是说,对话者可以归属于一个人工制品。“拟人化”具体指的是“对无生命对象、动物等事物赋予人类特征,从而帮助我们理解它们的行为”。当今的社交机器人领域正在普遍采用拟人化设计,那么,引发“拟人化”过程的条件是什么？莫里(Mori)说核心条件是“熟悉”,可以从两个角度来看待熟悉:作为存在的或追求的。例如,我们对宠物感到熟悉,在完全不同类的情况下,模仿对话可能是一种模拟熟悉的方式,可以平息人们对可怕动物或机器人的恐惧。事实上,即使在机器人被视为潜在威胁的情况下,我们也可以想象,人类拥有在熟悉中转化恐惧并建立关系的能力。莫里认为,“随着机器人在形式和能力上变得越来越像人类,与机器人的互动将变得容易和自然”,也就是说,“拟人化”增加了人类对机器人的情绪反应的积极性,不过拟人并不要求机器人完全“逼真”,当机器几乎完全像人类反而会给人一种强烈的怪诞和陌生的印象,“恐怖谷”(The Uncanny Valey)就是这种效应的明显例子。

开发社交机器人的意图表明,它可能被用作促进机器人和人类之间交流互动的工具。其基本思想是通过设计刺激用户将人类情感和精神状态归因于机器人,让用户积极参与机器人的社交表现和存在,从而增强熟悉度和亲密感。雪莉·特克尔(Sherry Turkle)提出了两个重要方面的论据。首先,在某种程度上,社交机器人的拟人化设计将它们呈现为“具有内在精神状态的工件”,并假定与之交互涉及“理解这些精神状态”；其次,针对儿童和老年人的民族志研究表明,社交机器人也是“唤起记忆的人工制品”,它连接了与人之间的情感纽带,用户往往将其描述为拥有相互的爱和关怀。至于机器人表达的爱是“真正的爱”,还是“模拟的爱”,特克尔的答案是“模拟的思考可能是思考,但模拟的感觉永远不是感觉,模拟的爱永远不是爱”。它们可以提供真实的社会关系,但那些真实和互惠的情感永远无法提供,机器人所表达的情感只能是虚假的、模拟的、非真实的,因为机器人缺乏内在情感,将情感归因于社交机器人构成了一种拟人化——它建立在一种错误的信念之上,即这些机器具有与其所表达的情感相对应的内部状态。

达米亚诺(Damiano )以及杜穆切尔(Dumouchel)建议将人与机器人的情感视为一种进化的“主体间协调机制”,其基本假设是,“情感表达是一个持续的主体间协调过程的一部分,在这个过程中,主体相互决定彼此的情感和行动倾向,并不参与旨在发现他人情绪的理性演算(或模拟)”。通过情感动态协调实现的人机交互,否定了将真实情感视为内部产生和体验的私人事件的经典理论。随着机器人研究者逐渐熟练地将人工移情编程到他们的创作中,他们正在放弃传统的人类情感概念,即离散的、私人的、内在的体验,而是把情绪看作是两个行动者之间的一个连续体。在这个意义上,人与机器的关系可以执行最低限度的要求,即把机器人作为人类移情的接受者当作人类—机器人建立友谊关系的必要条件。

三、程序意向性:新型伙伴关系的现象学本质

(一)从“具身”到“它异”:“我他”移情的诠释之路

目前试图用现象学来研究“人机关系”的文章很多都没有摆脱人类中心主义的陷阱,而德里达(Jacques Derrida)的“稳定装置”、伊曼纽尓·莱维纳(E.Levinas)的“异他现象学”、维姬·柯比(Vicki Kirby)的“量子人类学”以及博格斯特(Ian Bogost)的“异形现象学”等都对现象学以人类为尺度的方法提出了强烈而关键的反对意见,并试图扩大意向主体的范围以避免这种紧缩的以人为中心的方式对待非人类。意向性在海德格尔(Heidegger)的现象学中是一种具体体验的“在世存有”；梅洛-庞蒂(Merleau-Ponty)用身体取代了具有永恒性的先验主体,强调我们对于世界的全部理解都是基于我们身体的性质,但知觉不是外部事物作用于我们身体的简单结果；在胡塞尔(Edmund Husserl)看来,先验自我和纯粹意识是事物本身,机器的意向性“只是‘图像流’、数字流或无意识的文码流、记录流,也就是说某种本质上非意向性的被动综合,它既没有在场的生命也没有生命的在场,亦没有呈现时间物体之大当即的活的在场”；伊德克服了前人的局限,进一步把主体从孤立、封闭中解脱出来,并将“意向性具体到了身体与技术上,在关系中思考着技术,从而摆脱了从主体、客体的立场上思考技术的传统”,即技术是如何调节具体意识和世界之间的关系的,他将技术描述为“人类行为中人工制品与使用者的共生关系”,并解释了人类经由技术与世界互动可以通过四种关系结构来理解:第一种结构是具身关系(embodiment relations),它提请注意技术用作身体或感官的延伸,可以改变我们与世界的关系,如眼镜、假体装置、手杖、汽车等,“一旦掌握了人工增强的活动(如看东西、走路、开车),设备对用户来说就变得透明并‘隐身’”。他指出:“一个人的‘身体形象’的体验不是固定的,而是可延展或可借助于物质或技术的中介力量还原的。”这就扩大了主体性和意识所适用的人群,主体性开始抛弃传统的(人)主体,意识开始抛弃传统的(人)意识。第二个结构是诠释关系(hermeneutic relations),它使我们注意到技术是如何像文本一样被阅读和解释的。第三种结构是背景关系(background relations),它强调大多数时候我们发现自己处于复杂的技术结构中,技术在背景中的作用不明显,是一种“在场的缺席”。比如北方冬天的地暖,这是生存所必需的,可以把它看成一项在后台运行的技术,在发生故障之前通常都不会引起人的注意。同理,数字技术也日益成为一种背景性状态,扮演了中介的角色,即界面取代了面部,成为注意力和意图的主要对象,所有这些关系都可以存在于人类与机器人的关系中。但第四种结构相对本文来说最有趣:意识与技术准他者之间的关系,中国学者多把这种关系翻译成“它异关系”(alterity relations),这其中指明了一个准他者的存在。

伊德认为:“技术他者是一种准他者,强于单纯的客体,但弱于动物王国或人类世界中发现的他者……”这句话提出,要让物体作为准他者来体验,它们必须在意识中显现出来,就好像它们在某种程度上是有生命的一样。伊德还使用了“技术幻想”一词,并声称“有一种趋势,即幻想作为技术产物的准他者成为一种真实的他者……”仿真机器人就是一个很好的例子,一个物体外观上的类人特征可以引起一种与准他者相关的感觉,在物体具有一定自动化或自主性的情况下,尤其是外观“足够逼真”的情况下,很容易使人感觉到物体有自己的意志。正如社交机器人是为在社会环境中实现与人的亲密互动而设计的,人工物也就具备一种技术意向性。什么是技术意向性？伊德论述道:“技术通过提供一个行动框架,确实形成了意图和倾向,其中使用模式占主导地位。”他以打字机为例,打字机比钢笔更能让用户以更快的速度写作和编辑,换言之,技术工具的设计可以激发特定的用户行为。

伊德通过工具意向的双重结构来解释人与世界的关系:“一方面工具通过具身于人的意识和行为改变人观察世界的视角,从而决定人的认知能力和行为活动,如显微镜、天文望远镜等;另一方面,人们又通过工具技术所观察到的世界或现象采取实际行动,如肉眼不可见的细胞培养或者卫星控制等。”由此可见,技术虽然由人开发,但反过来也能塑造人的行为,确切而言,是通过塑造人的感官再塑人的行为,感官是人类通达世界的媒介。从“具身”“诠释”到“背景”“它异”关系的描述反映了移情能力受到的影响:第一,移情的具体方面被界面的物理属性过滤了；第二,我们的注意力不仅集中在与我们交流的对象上,而且还集中在作为准他者的界面上；第三,我们对他人的情感、经验、认知和想象理解是由运行应用程序的程序调节的。人与机器的情感交互是一种高技术程序和低技术想象共同点燃的情感反应。

(二)被编码的意图:程序意向性的调节与延异

尽管机器人可以模拟一种情绪状态,口头上与人对话,从而引起人类主体的情感依恋,但所有这些机器人的行为并不是来自真实的心理状态,而是来自一种命令其行为的算法。当我们与机器人进行互动时,我们的行为不仅受到“具身”“诠释”“它异”和“背景”关系的调节,也受到应用程序的调节——这就是程序意向性。在人与机器人的关系中,应用程序扮演了重要的介导作用,即便是在机器人模仿人类情感的情况下,也必须在人工智能或机器人系统中实现捕捉周围情感语法的最低技能,为完成这个目标,机器人将有一系列可能的交互类型(可以称为“情感承受库”),这将需要一个心理或情感模型,按照情感输出及其相关语法的可能路线图进行即席制作。只要机器人需要编程来执行某种行为,机器人的行为就是先验的,而不是交互作用下的反应,就算它们的行为是随机的,也不是一种完全自发的行为,机器人对于感情的表达不过是受程序编程的驱动而已。

特克尔(Turkle)认为,社交机器人很容易越过无生命—有生命的边界,它们通常看起来是有生命的,甚至是有意向的,主要是因为我们专门编程来模仿自己的意图。超现实主义画家雷内·马格利特(René Magritte)的画作《形象的背叛》,展示了一个冒烟烟斗的图像,标题是“这不是烟斗”,这当然不是真的烟斗,它只是幅画。因此,机器人不存在真正的意图,它只是把自己表现得像有意图。同时,可能有人认为机器人是在模拟意图,它只是通过一个复制自然的过程来运行。在拟像和模拟中,鲍德里亚(Jean Baudrillard)指出了这种模拟的局限性,他描述说一个人通过表现症状来假装生病,接受过疾病识别培训的医生别无选择,只能将患者诊断为患有疾病。当真实和模拟对象开始重叠他们的呈现时,术语和对象一样可以互换,无论模拟什么都可以被认为是真实的。模拟背后的事实是,许多被描述为独立完成任务的机器人只是执行一系列特定的指令,或者更糟的是,掩盖了一个人实际上正在控制它们的事实。正如有学者提出的:“人工智能所获得的感知智能、认知智能、行动智能、创造智能都来自特定社会的数据。”因此,我们创造的机器人不管是“假”人类还是看起来可能是有意识的都不是关键,关键的是,它们意图表现的是人把自己的欲望编码到机器的本性中。

关于人工智能是否显示意图的争论可以说是纯语义的,对于人类或其它动物来说,承认机器人的行为是“有意的”是不会改变的。我们对他者的解读被技术所调节,被程序化的意向性所延异。通常我们并不怀疑我们使用的技术,当我们拥有隐含的技术诀窍时,我们已经知道如何使用它们,换言之,当我们面对与机器人建立关系时,基于同样社交语言的经验或其他情境中的游戏及技术相关知识,为我们建立起了一套隐性的规则或规范。社交机器人虽然是新技术,但也是由旧模式发展变化而来,当我们在遇到社交机器人时,我们就会有一种“期待视野”,这种期待在与机器人互动之前,甚至在机器人开发之前就已经跟旧有的游戏或模式相关。它是根据早前的人生经验建立的关于机器互动的一种定向性心理结构图式。

斯蒂格勒(Bernard Stiegler)在《技术与时间:迷失方向》中提到:“生物体自身的程序外延到一种人为的程序中,这就是原初补余性的生命形式。”也就是说,人的存在可以被外延到义肢性的技术中。由于人无法从生物遗传中得到所需要的技能和本领,人就必须从生物遗传之外的技术构序中获得增补性的生存能力,这相对于生物遗传获得的生存能力,则是一种存在论上的增补和延异。与社交机器人建立友谊关系,可看作生命形式延异的一种方式,而这种方式受技术的介导与调节,这跟L.温纳(Langdon Winner)把“生命形式”一词应用于技术是一致的:“技术是生命形式的一部分,因为它们编织在日常生活的结构中。”没有它们,生命是不可想象的。当然,社交机器人之所以充满诱惑力,除了人性化的程序设计,其外观设计也很重要,即通过情感的内置、需求的编码,再加上善解人意的、可爱的形象来吸引用户,这样,人类的同理心就会被强化,甚至被操控,进而催生情感依赖。

四、结语

每一个社交机器人和人类的接触都是一种嵌入在复杂的具体想象中的接触。在这一过程中,情感的意义从量化和物质性中显现出来,而亲密的体验无论是数字的还是想象的都会存在距离,密切接触既提供新的舒适也提供某种不适。我们被机器包围,被机器服务,我们越来越意识到,它们已经成为我们维持自我的手段。越是长时间与手机、媒体、机器人“连线”,在情感上反而容易“断线”,这令人焦虑不安。柏拉图(Plato)的《斐德罗篇》里讲述了一个关于上埃及法老塔姆斯(Thamus)的故事,用一句话描述就是:“我们这样的人往往沦为工具的工具。”技术既可成为恩赐也可沦为负担,它以一种利弊同在、潜移默化的形式影响生活,在苏珊·道格拉斯(Susan J.Douglas)看来,“机器的确能够加速某些趋势、放大某些文化弱点,并在巩固某些社会结构的同时侵蚀其他社会结构”。当我们热衷于一种毫无拘束的交际,关系就会被连接所替代,连接和“联网”不需要目光和声音,而只有那些依赖于声音和目光的“关系”,才真正是身体的经验。“去身体化”的社交机器人夺走了声音的纹理,声音变得“平整”而透明,“含义”一目了然且完全服务于“所指”,这种直白的“所指”毫无魅力可言。一旦被机器人所诱惑和召唤,我们一方面用拟人的方式对待它们,另一方面也越可能以物化的方式对待人,这种新型的“亲密”关系下掩盖的或许是另类的孤独。

从符号学的角度来看,人与机器的友谊如果要实现的话,两者的关系不能被认为是一个封闭的二元世界,而是三元一体,社会意义也要被纳入考量,我们在移情中重建意义、重建自我认同,我们对机器人投入感情时也理解了自己的感情。社交机器人在日常环境中的出现挑战了社会学的想象力,我们不仅要考虑机器人化的社会空间是否会引发新的本体论之争,还要考虑对这些新兴的社会物质集体的学术描述是否会“忘记”人类人格的基本方面。