人工智能背景下交互设计伦理研究

宗威 徐安妮

关键词：人工智能;交互;设计;伦理;原则

如今交互无处不在，人们在聊天、游戏、驾车、旅行、工作、学习、医院看病等一切生活活动中都需要与不同的对象、以不同的方式进行交互。随着人工智能不断地拓宽交互的视野和维度，交互设计也为人们带来了更加便利和良好的体验。但是，面对快速发展的交互设计，不应只看到其益处，也应时刻审视其被掩盖的弊端，让具有社会视野的设计肩负起社会责任。

1 人工智能概述

人工智能最早是在1956 年的Dartmouth 会议上首次被提出的概念。虽然始终没有统一的定义，但其中的技术和内容并无差异。目前的人工智能是与人类智能相对应的机器智能，可以直接继承和模仿整个人类群体的智慧成果，并将智慧成果集中在一个载体上，如手机、工具、机器人等。它是一种能够感知环境，最大限度地完成任务的设备。人工智能通过机器主动感知，删减和优化用户的非必要任务路径，提供最优方案来帮助用户高效地完成任务[1]。利用人工智能可以完成同质性、重复性和模仿性的工作。

现阶段，人工智能的内容大致有四个部分，即机器学习、图像识别、自然语言处理和人机交互。机器学习是人工智能的关键技术，其核心是算法，如深度学习是使人工智能其他技术得以发展的基础。图像处理技术可以让机器识别人类眼中的图片，对图片做出分析和提取，从而识别目标对象。自然语言处理是指计算机模拟人类的逻辑思维理解分析，可建立人与机器之间的语言转换，也可用于文本转换、分类识别和语音转换。人工智能也促进了交互技术的发展，如语音、人脸识别、手势识别等。在智能时代背景下，交互无处不在，人类感知现实世界、与机器互动的能力得到加强和延伸。运用语音、文字、图像、手势、动作等进行交互，成为生活中随时发生的一种自然交互现象。

2 交互设计概述

交互设计最早是针对各类软件或程序的显示选择界面的设计，依靠显示器、键盘和鼠标等设备达到通过人类的输入与计算机的输出完成交流的目的。随着交互技术的发展，不断拓宽交互设计的视野和维度。基于触摸、语音、体感、眼动和生理信号等形式的自然交互不断发展完善;交互流程与模型也不断优化，打破了从感知到认知再到交互行为的解构与重构的交互设计过程，从传统“输入—反馈”的单向从属关系过渡到“推荐—选择”的双向训练关系[2]。目前，只要是通过互动来实现功能、满足人们需求的设计，都可以被称之为交互设计[3]。其目标可分为“可用性”和“用户体验”两个层面，关注以人为本的用户需求。设计重点由实体层面转向信息层面，设计师不仅创造产品，更创造信息交流方式，包括定义产品的行为和使用密切相关的产品形式、预测产品的使用如何影响产品与用户的关系，以及用户对产品的理解。

3 设计伦理概述

设计伦理一方面建立在社会思想发展的基础之上，另一方面建立在科学技术的发展之上。早期中国古代的造物思想就受中国哲学思想的影响，如道家的“道法自然”是关于设计中人与自然和谐相处的真知灼见;墨子提出的“兼相爱，交相利”要求设计不仅要“利己”，还要利于他人、利于社会、共谋福利等[4]。最早从西方国家诞生的设计伦理这一概念，则是工业时代设计发展的必然结果。20 世纪60 年代，美国设计家维克多· 帕帕奈克反思自工业革命以来的设计，在《为真实的世界设计》中首次提出了设计伦理的概念，使设计师们逐渐意识到设计的社会责任。我国的设计伦理研究从近二十年开始，多数是围绕设计价值属性的研究和拓展，整体论述我国早年设计中存在的问题。但随着时代技术的发展，设计的研究对象已经从有形产品发展到无形产品，工业时代背景下的设计伦理已经不能适应人工智能时代的快速变化，受技术发展影响的设计伦理亟需更新，尤其是对于受时代影响较大的设计细分领域，如有关交互设计的伦理研究则是当前所缺少的。

4 人工智能背景下交互设计伦理现存问题分析

4.1 微观伦理问题

4.1.1 交互设施对生理的影响

早期的人机交互设施是键盘和显示器。操作员通过键盘输入命令，操作系统收到命令后通过显示器显示结果。键盘与显示器一直是人机交互的主要媒介之一，在带来交互便利的同时也潜移默化地对使用者造成了危害。2008 年福布斯评选出的给用户造成伤害的七大技术之一就是计算机键盘设计的不合理性。由于使用者操作时需要长时间保持同样的姿势，不符合人机工程学的交互设施很容易造成颈椎病、鼠标手、局部肌肉发达、头痛等生理问题。

互联网教育时代迎来了新的教学考试方式，即通过点击鼠标、敲击键盘进行答题互动，且大部分交互信息通过视觉进行传达。不仅导致越来越多的人提笔忘字，书写能力丧失，而且随着人们接触电子设备的时间频率不断增加，出现视力问题的人数也随之增加。如果在使用不当的情境下，如睡前在黑暗中长时间对着发光的屏幕，会抑制褪黑素的生成，从而导致人处于浅睡眠状态，造成慢性劳损;横躺时给眼睛的压迫力还会造成视力偏差、干眼病等问题。

4.1.2 交互反馈机制对心理的影响

《连线》前主编凯文· 凯利曾说道：“人类在信息网络里的注意力不断分散，生活完全碎片化。”2000 年，微软加拿大公司报告说，普通人的注意力跨度是12 秒。2013 年，随着智能手机和社交网络的兴起，这一数字降至8 秒。应用的各种消息通知、社交应用的无限下拉刷新消息源、视频网站下一集的自动播放、资讯应用总有热门的话题标签...... 这些现象不断占用用户的时间和注意力，造成用户的行为上瘾，生活娱乐发生变化，逐渐都走向“单向度的人”。心理学博士亚当· 奥尔特在《欲罢不能》一书中总结了上瘾行为的六个要素分别是诱人的目标;不可抗拒的积极反馈;毫不费力的进步;不断升级的挑战;未完成的紧张感;令人痴迷的社会互动。而这些令人上瘾的因素在游戏、娱乐视频及社交软件的交互设计上都有体现。

1） 游戲交互的影响。近几年火爆的单机小游戏几乎都有这样的特征，首先，操作简单，玩家可以拥有发现游戏秘密的快感和几乎毫不费力的进步。如“跳一跳”只有一个点按屏幕的动作，通过几次尝试反馈就可以掌握规则，并能越跳越远不断刷新自己的记录。其次，有简单明确的目标且能得到及时反馈，形成心流体验。如“消消乐”的目标是要在规定步数内将三个以上相同形状连线，就能累积积分解锁下一关。每次动作都能带来视觉上的障碍消除、听觉上的愉悦赞赏以及可视化积分累加的激励，即使没有过关，得到的反馈也是在温和地告诉玩家“距离过关就差一步”，鼓励再次尝试。最后，玩家在游戏体验中能够获得减轻日常生活压力的轻松感。如“合成大西瓜”的核心体验就在于连锁反应合成时释放了前期积攒的压力，仿佛随着音效“砰”的一声变小的不是大西瓜而是自己身上的压力。总之，这类休闲游戏从视听元素的设计到简单规律化的规则设置都会使玩家一旦开始就很难停下来。

一些移动、PC 端联网游戏如“王者荣耀”“英雄联盟”的交互设计中，引发上瘾的原理也是相似的。在这种游戏中任何预期行为都时刻被施加一种正向强化反馈。如操作某一按鍵就能看到相应的技能被释放，且绚丽多变的技能与技能属性的语义表达相匹配;击打敌人造成的伤害会通过数字显示和血量的变化构成更加细致的图文动态反馈;击杀敌人后还会有金币数量、经验数值等可视化的奖励提升，这些反馈体验都会带给玩家足够强大的正向刺激。另外，这类游戏还会通过段位积分等排名机制的变动激发人们竞争的本能。邀请好友组队的设置不仅可以拉近人们关系还可以赋予一种不同于现实世界的社会认同感。无论是何种游戏都是通过这些甚至玩家都意识不到的交互细节及背后的心理刺激并控制着玩家的行为。

2） 视频软件交互的影响。以“抖音”为例，在“抖音”的推荐页面，在每次手指上滑出现新页面前，永远都不能准确猜到下个视频是什么内容，这种不可预测的内容反馈就充分调动了人们的好奇心，不断产生想要知道下一个视频是什么的循环。另外，人工智能算法可以在交互设计中搭建智能推荐系统，创建不同需求的用户模型。随着推荐系统的完善，交互形式从传统的“输入—反馈”单项反馈过渡到“推荐—选择”双向反馈，用户刷到的视频多与自己喜欢的内容相关，加上背景音乐，在视觉与听觉的双重刺激下不仅会带来沉浸式体验，而且增加了视频整体的容错率，即便视频内容或背景音乐不受观众喜爱，也不会产生过多的负面情绪。“抖音”里一个重要的交互就是自动循环播放。手指刚一上划，大脑的底层感官就会第一时间接收到听觉和视觉的刺激，全屏显示并配有个性化背景音乐的视频扑面而来，而负责理性思考的大脑前额皮质则会慢上半拍。因此，人们总会先接收到视频的图像和音乐，接着才会去思考这个视频表达的内容及需要对其作出的反应是点赞或是滑走。另外，“抖音”里的“点赞”被放在了一个最方便手指接触到的位置，点击“点赞”按钮后，一颗红心会跳出来填满按钮。无论是反馈形式中的动态表现、爱心形式或是明亮的红色，都可以及时给到点赞者一个积极的反馈。

3） 社交软件交互的影响。点赞功能自出现起一直被国内外各大社交平台沿用至今，但这个设计也不断影响着用户的情绪。他们在自己的新动态被赞后会产生暂时的满足感，也会期待更多的点赞，随着期待值的增加会更加关注点赞数量，不断刷新界面期待着更多人的点赞反馈，而一旦没达到期望则会产生更大的焦虑，人们的情绪变得愈发脆弱。

社交软件增加了人们远距离的交流体验，但也减少了与真人面对面沟通的时间和经验，成为如今社交恐惧症群体增加的社会背景。早年的社交软件只通过文字进行交流，内容可以在发送前多次删改，也可以很好地隐藏情绪。随着语音识别技术的发展，出现了语音交流，虽然语音中可以流露一些情绪，但及时取消发送的功能却给了用户整理情绪与梳理逻辑的机会。语音通话与传统打电话并无区别，视频通话与面对面交流相比，隔着屏幕会给用户更多的安全感。文字、语音交流是目前人们的主要交流方式，其可延时回复的特性给了表达者更多准备的时间。这也导致越来越多的人喜欢隐藏自己，能够视频就不见面、能语音通话就不视频、能逐条发语音就不实时语音通话、能发文字就不发语音，人们更愿意隐藏自己的情感和深思熟虑的表达。

4.2 宏观伦理问题

4.2.1 交互过程对老年群体的影响

在2021 年全国人民代表大会、中国人民政治协商会议上政协委员就适老化提案指出“很多数字产品在设计之初，忽视了老年人的用户体验”问题。智能时代的产品外形日益简化，内容却越来越复杂，不仅不符合老年用户的认知，还会造成记忆负担，他们很容易在界面层级和交互动作中不知所措;在年轻人中流行的语音、手势交互也并不符合老年群体的生活习惯;缺少物理反馈的触屏操作只有视觉反馈，这对视力恶化的老年人而言也是糟糕的体验[5]。目前，市场上多数智能产品或是各领域中的服务设备，其交互系统很少以老年群体为测试标准，这些与老年人生理特征、认知特点、生活习惯等方面不符的交互设计使老年群在这个时代的生活举步维艰。

4.2.2 交互过程中的责任风险问题

在医疗健康领域，随着医疗系统的智能发展，提前探讨其中的伦理风险是必要的。如果医疗过程中因机器功能障碍隐患导致病患受到影响，该如何避免又或是在什么程度上被允许。再如，一个提醒病人吃药的智能产品，在病人拒绝服药时他应该如何处理？顺从病人会影响病人的身体康复;坚持让病人服药则会损害病人的自主权。在一些特殊的两难选择时，交互设计伦理应该从哪种维度进行道德价值评估、可以下达怎样的指令才算合理，这些悬而未决的问题都应该被提前探讨，以降低交互过程中的危害及争议。

在交通出行领域，自动驾驶辅助系统是汽车人工智能领域最热门的方向。它利用计算机视觉和语音识别技术感知行车环境，识别车内人员，了解乘客需求，颠覆了传统的人与汽车之间的交互关系。但由于物体的种类具有多样性和复杂化，所以机器对于人与物的体貌特征的识别并不具备较高的准确性，因此目前自动驾驶辅助系统还难以处理随着全息交互而不断变化的人与自然环境的关系。在未来，驾驶者与汽车该呈现怎样的交互关系、在遇到极端的困境时自驾系统该做出怎样的反应，都需要在设计时提前考量。

5 人工智能背景下交互设计伦理原则

5.1 以延续基本交互设计原理为原则

针对工业产品：首先，要确保其安全性，预计可能发生的安全问题，避免因设计造成安全隐患;其次，要符合人机工程学，确保工作效率。针对生活产品：首先，要达到可用性，便于记忆、理解和使用;其次，要保障良好的用户体验，即生理上，尽量保证身体和感官的舒适度;心理上，提升感知美学体验，提供情感正反馈，具有一定自我价值的体现，提高使用满意度。

5.2 以给予老年群体更多关怀为原则

给出更具有针对性的交互策略，删减无用交互步骤、适当隐藏一些非核心功能，避免增加他们的使用负担;尽量保证交互时的语义传达与交互方式符合他们的认知习惯;以他们的身心特征为基础，恰当地利用各感官通道之间的补偿机制，以达到最适合的交互效果，给予他们更多的关怀。

5.3 以防止用户沉迷上瘾为原则

设计者应从产生有益价值，而不是制造上瘾的出发点去设计产品。将这些容易致瘾的交互方式多用在学习类产品的交互设计中，使用户从沉迷娱乐转向爱上学习。具体讲，可以为不断地下拉刷新和没有尽头自动循环的推荐视频设置一个“暂停页”，给用户一个察觉自己深陷其中应及时抽身的机会，适当控制用户的使用时间。减少不重要信息的推送，弱化不重要信息的推送提醒，减少对用户注意力的吸引频率。由于通过色彩进行视觉刺激是屏幕上吸引注意力的简单方式，如红色的未读消息提醒，因此在一些不重要的交互色彩中可以用冷色或是适当将色彩抽离用灰度降低对用户的强制吸引。

5.4 以增加设计中的情感交流为原则

通过交互式体验，依托产品功能和使用方式，对使用者的情绪进行接纳吸收，引导、鼓励使用者的情感宣泄和释放。通过参与式设计， 给用户自己DIY 的机会或适当增加用户可以自定义的功能，以满足用户群的个性化需求，增加用户与产品间的专属情感。通过共享服务设计，促进人与人之间的交流。由于共享设计所服务的群体具有多样化的特点，可以使拥有不同年龄、生活经历的人有机会接触彼此，用设计将人们连接起来，人人参与，强化自身的社会认同感。

5.5 以提高设计责任为原则

在协同发展的时代，人与智能机器和谐的前提是要不断对其进行道德约束，从机器的内在机制考虑如何让其学会人的评判标准，产生合理结果。尽量对道德标准量化评估，提前考虑一切可能出现的风险，并公开责任伦理指标。另外，要提升设计师的社会责任感，因为就目前而言，解决人工智能产品的设计伦理问题，只能建立在产品设计者的伦理自觉上[6]。这就需要设计者在设计时普遍提高对设计责任的认知，着眼于长远利益，平衡人、环境、社会的三者关系，发扬人性中的真善美。

6 结语

在人工智能背景下，交互设计已经成为一把悬在每个人头顶的双刃剑，在带来便利体验的同时也带来危害，作为执剑的设计者不应一味地设计而不进行道德反思。交互设计的发展不是为了满足人们的贪嗔痴念，而应该是通过机器更好地将人们与世界连接，让机器更好地为人们服务，形成符合人类价值的交互设计。因此，通过交互设计伦理研究期望培养设计者自省力与责任感，促使人机交互和谐发展、社会向善发展。