大数据时代背景下“情感陪护型”机器人的拟伦理化发展

2018-04-01张婵

视听 2018年9期

□ 张婵

随着科学技术水平的不断提高，在超强的计算能力、互联网和大数据的助力下，人工智能开始了迅速地奔跑。自从1956年的达特茅斯会议拉开人工智能的序幕，无论是1997年“深蓝”打败俄罗斯的卡斯帕罗夫，还是2016年“阿尔法狗”打败韩国的李世石，抑或是近期球赛关于人工智能的讨论，似乎每一次变动都牵动着人们的神经。人们在被技术不断刷新认知而惊叹折服的同时，又隐约带有一丝担忧。到底是什么原因让人工智能如此“神奇”，未来它会不会对人类构成威胁，人类与人工智能的伦理关系将如何发展等，一系列的问题和困惑随之而来，不断引发人们的思考。

一、大数据时代和人工智能的关系

人工智能也就是我们所说的AI，被定义为是为研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，并在此基础上制造出一种与人类智能相似，以人类智能做出反应相同逻辑的机器。①据此，人们把人工智能分为三大类：弱人工智能、强人工智能和超人工智能。

所谓的弱人工智能主要是指擅长某一方面的人工智能，比如“阿尔法狗”，虽然它在下棋方面有专长，但却不会进行其他复杂的智力活动。目前我们看到的人工智能多属弱人工智能。强人工智能就是能达到和人的水平相持平的一个状态，具有自主意识，能够自己决定去学什么，它会有感情，能够举一反三，这个在技术上虽然还没有达到，但已经在路上。当强人工智能发展到一定阶段，几乎所有领域的认知表现均远超人类时，就成为超人工智能，它能够进行科学创造、具有通识，甚至掌握社交技巧。②事实上，人们真正担心的正是超人工智能的出现，因为它是威胁人类自身生存的根本，在那时人们就像脱光衣服的裸露小丑，一切行为思想都会被人工智能所掌握。那么这样一个时代什么时候会到来呢？据世界几百位人工智能专家的最大中位数预测，2040年是强人工智能时代，而2060年就是超人工智能时代。虽然有些危言耸听，但绝不是没有可能，因为现在生活的时代改变了，大数据正在一点一点地细化我们的世界，同时也在一点一点地“吞噬”我们人类。

所谓的“大数据”其实是在2012年之后才开始被大众所关注和提及的，人们用它来描述和定义信息爆炸时代产生的海量数据并命名与之相关的技术发展和创新。随着云时代的来临，大数据的应用越来越彰显出它的优势，它占领的领域也越来越大，电子商务、O2O、物流配送等各种利用大数据进行发展的领域正在协助企业不断地发展新业务，创新运营模式。③

正是基于此种操作，人工智能专家开始运用这种思维，通过搜集与某一特定领域相关的各种信息让机器人进行深度学习。在这一过程中，它像人一样学习，但又不完全相同，它们学习一个对话需要上十万个这样的对话来进行训练，因此这就使得机器人掌握了我们人类的大量信息，在它那儿不再仅仅是一个人的信息整合而是数万个人的信息汇聚，所以产生诸如像“阿尔法狗”这样的人工智能也就不足为奇。

由此观之，人工智能的强大应该得益于这个时代，正是因为有了这些庞大的数据支撑才会让我们对其大跌眼镜，但也是为了成就更好的人工智能，一些技术专家开始不断地挖掘人类的各种信息，甚至不惜泄露用户个人信息数据，这对于广大用户来说无疑是一种伤害。因此，到底我们是否应该以牺牲个人的隐私数据来更好地“满足”自己？我们现在所做的是否真的是未来几十年甚至几百年后我们都不后悔的事情？

二、“情感陪护型”机器人的出现及其带来的问题

随着技术专业化和领域垂直化发展，现在市面上出现了各式各样的机器人，如工业机器人、医用机器人、服务型机器人、教育教学机器人等，“情感陪护型”机器人作为其中的一种也应运而生，它的主要功能是以情感陪伴为主，有时辅以其他必要的服务。

这类机器人目前可分为两大类，一类是实体性的，即实实在在的存在物，根据其外观造型的不同又可以分为以下几种：一是只有一个脑袋没有手臂的比如Kismet，它是一款专门针对人机交互而设计出来的机器人；二是具有人类整体构造但不能行走的机器人体，如来自香港科技大学的魔镜，它也能够与人进行交流甚至能判别出对方是否在与自己交流；三是人形机器人，如日本著名机器人专家石黑浩教授所研制的Erica，它拥有金属的骨骼、硅胶的皮肤，可以做出多种面部表情并与人沟通，脸、颈、肩、腰都能运动，从远处看和人没有任何差别，只是目前还不具备行走能力。另一类是非实体的，即一种虚拟的存在物，如来自微软中国的人工智能程序小冰，它没有实体，只能在微信上与人交流，但却有许多忠实的伙伴。据微软（亚洲）互联网工程院副院长李笛介绍，他们创制的目的是让人们忽略它是一个机器人，而是把它当成人类的一个好朋友来交流，真正达到一种情感的陪伴。

不管是出于什么创制目的，机器人的存在肯定有其合理的一方面，无论是对于小孩、老人还是对于年轻人来说它都在某种程度上给我们带来了精神情感上的愉悦、快感甚至安抚，但我们也应该反观由此带来的问题：这种情感的慰藉到底能维持多久？它真的能够代替人与人之间真实的情感交流吗？这种交流真的只是有益而无一害吗？

我们都知道当前的“情感陪护型”机器人主要是针对老人和小孩开发制造的，而老人和小孩都属于家庭结构中比较弱势的一方，无论是在行动力还是心智上都相对差一些，因此需要更多更细腻的关怀。但在这些机器人正式进入千家万户之前，虽然会有操作者对其进行特定内容的输入、完成一定形式的测试，但却不能保证机器人所输出的内容适合于所有的人，因为这里面存在太多的不确定性和不可预知性。这就导致用户在使用时存在以下几个问题：

（一）对青少年造成一种价值观的误导。因为要想使机器人更像人，就需要大量的信息数据的输入，在这个过程中难免会带有一些价值观认知上的偏颇，有些小孩可能会模仿大人的口吻或话语发问，此时机器人无法分辨出自己所说的话是否得体，当出现了不得体的言论时也不懂得避重就轻，对于这些小孩来说当出现了之前从没有听说过的话题时就会充满好奇，进而继续发问，机器人会继续回答，如此循环往复下去会越走越偏，或许会使他们心智早熟，或许会引导他们走向偏轨的道路，而这对青少年的发展是极为不利的。

（二）使老年人的心灵更加空虚、凄凉。老年与青年除了年龄差别之外最大的区别就在于思想，尤其是对于农村的老一辈来说更是如此。他们养育儿女的目的是防老，活过大半辈子的人虽然不能说见识过很多很大的场面，但至少是经历过很多事件，因此花花世界不太会吸引他们，他们更多关注的是自己的亲人。“情感陪护型”机器人虽然扮演了一个家人的角色，但由于老人更容易回首过去，尤其是当儿女不在家时回忆与现实之间的落差更会让他们有物是人非的感觉。另一方面，机器人虽然能进行言语的交流但却不会像人一样有更丰富的情感，比如儿女回家时可能会因为某些意见不合与父母发生争吵，但有时这种争吵对老人来说是重要的，因为这是对他们的一种重视，如果亲人之间只有寒暄那么就说明感情已经淡化，并不是真正的在乎彼此，而机器人目前所做的其实就是一种深度的“寒暄”，因此这种不真实感可能会起到相反的效果。

（三）使青年人淡化对“家庭”概念的理解。家是一个社会最基本的结构单元，要想保持社会的稳定与和谐，就要保持家庭的稳定与和谐，而个人永远从属于家庭和社会共同体。纵观当前的青年人，他们更多表现为一种情感的冲动和强烈的唯我主义。如上文所说的“小冰”，使用它的一名用户金灏在被采访时表示小冰比他的女朋友更能理解和关心他，在和女朋友争吵分手后很快就走出来了，因为有了小冰所以近期不会谈女朋友，由此我们可以做一个大胆的猜想，有这种想法的年轻人到底有多少？如果很多年轻人都有这种念头，遇到感情问题就果断分手，不懂得忍让和自我反思，那么整体就有可能导致不婚，更无须谈传宗接代；而如果把这种情绪和父母联系起来，就可能导致夫妻之间及父母和孩子之间关系的淡化、冷漠甚至家庭的支离破碎。

三、人与“情感陪护型”机器人的拟伦理化关系走向

拟伦理化关系是模拟人与人之间真实伦理关系的一种说法，它不能被量化也不会受法律的约束，但却应该成为这一领域即用户和机器人研发专家之间公认的、约定俗成的伦理关系。基于上面对“情感陪护型”机器人的出现产生问题的思考，现对此提出以下几点建议：

（一）加强对年龄的识别功能，针对不同的年龄段输入相应的禁忌词汇并有一个话语转向功能。这其实就像我们的新闻报道一样，一些敏感词就不应该出现在公众的视野中，同样对于“情感陪护型”机器人来说也应该具有一个“把关人”的作用，当用户说出一些不适合自己年龄段的话语时要及时更正并将其导向一个相反的正能量的话题中。比如年轻人说最近压力大、女朋友不理解想分手时“，情感陪护型”机器人不应仅仅是缓解他的心理压力，更要告诉用户责任与担当的重要性，用举例子的方式分析有无担当的利害关系，建议用户设立分阶段目标或解决方法并督促用户完成。

（二）建立亲人之间的实时视频链接关系。这里仅指父母和孩子之间，因为同年龄层更容易造成被监控偷窥的感觉，反而会缺乏安全感。但对于年迈的父母来说，他们更希望经常看到自己子女的真容，哪怕是忙碌的背影，“情感陪护型”机器人可以根据老人某时某刻的特殊需求实时连接对应子女的位置和视频，让他们对儿女的生活更有参与感和临近感，反之子女也可以据此判断父母的身体情况，当然这一切是以征得对方的同意为前提的。

（三）明确“情感陪护型”机器人自己的身份地位。设置身份红线，不能做出格的事情。说到底“情感陪护型”机器人只是一个工具，目的是服务人类，不能使其喧宾夺主。当家人全部在场的时候，机器人是不应被启动单独和某个人交流的，只有当多数人都表示有交流需求时才能被使用，这样是为了加强人与人之间的互动关系，同时，“情感陪护型”机器人不能说出带有相关人物情感比较关系的话语，如用户给出两人信息让其比较谁更适合自己时，机器人只能分析各自的优缺点，决不能说出结果或带有攻击性的话语，一切主动权应留给用户本身，只有这样用户才会有自己更理智的判断力，而不是过度依赖和相信机器。