虚拟数字人场景化应用中的科技伦理反思

【摘要】虚拟数字人已应用于各类学习、工作、生活的现实场景中，其创造、应用将虚拟与现实、数据与技术相融合。虚拟数字人早已从简单问答式转变为主体深度交互式的技术延展，由此引发虚拟化技术的现实伦理风险。为确保实现虚拟数字人的实践价值，应以“向善+规范”的伦理反思应对“虚拟-现实”冲突，在现实世界与虚拟空间之间达到平衡。

【关键词】虚拟数字人；场景化应用；科技伦理

基金项目：2022年辽宁省社科基金重点项目“依靠自主创新创出东北振兴‘加速度’”（项目编号：L22AWT037）。

随着社会发展，社会矛盾转变，科学技术迅速发展，对人的理性发展提出考验，面对科学技术发展下的社会与人、人与人、人与技术之间的问题应以时代性、全面性的视角去理解技术与现实主体间的关系。从传统生产形式到应用科技，社会发展方式随着科技创新，为人的个性化、全面化发展提供了新范式。科学技术应用发展极大地促进了社会进步与人类追求全面发展相对自由化、个性化。虚拟数字人已在多个领域内成为人机交互的重要载体，在情感表达、价值传递、现实应用等多方面加速人与数字技术两者间的融合。在技术投向人类附加情感需求、价值选择以及道德判断的过程中，基于场景化应用中虚拟数字人携带伦理性现实问题的出现，对人类主体的伦理观及价值观产生冲击。当前，国内对于虚拟数字人的应用领域重点包含服务型和演艺型两种，比如，网络主播、虚拟偶像、数字客服及各类虚拟IP等。基于虚拟数字人在真实场景化应用视角，以现实主体的发展为线索，从价值对齐风险、情感依赖风险等现实角度探析虚拟数字人场景化应用中的科技伦理反思路径。

一、虚拟数字人场景化应用与科技伦理的关联性

虚拟数字人作为科学技术发展下的人工智能应用产品，经过测试后正式使用的活跃用户数量陡然增多，成为讨论热度持续上涨的数字人崇拜问题。科技发展的热潮虽迎来技术进步，但越来越多人对其盲目崇拜，导致对其依赖性增强，对应用技术产生沉溺现象，使多数人类主体不觉中转变思维方式，现实主体失去价值理性与情感认知，在一定程度上限制现实主体的全面发展。当前，在场景化应用中的虚拟数字人已成为传播信息的中介体之一，针对不同现实场景展现虚拟数字人的语言表达、情感互动等技术特征。首先，虚拟数字人的场景化应用涵盖面较广，例如，解说及分析体育赛事、介绍推销产品、景点及背景故事介绍等场景应用。随着虚拟数字人在不同场景的广泛应用，其技术手段背后所呈现的信息架构出现现实问题，导致现实应用过程中虚拟数字人呈现价值观念非对等的伦理问题。[1]由于虚拟数字人具有传播信息、引导主体人做出选择的属性，其信息传播迅速、为发问者及使用者提供现实策略的特点，易形成风险性价值信息的泛滥。其次，当虚拟数字人作为“虚拟偶像”存在时，虚拟数字人状态则转向为“虚拟现实人”，引发现实崇拜者产生虚拟态的情感依赖、偶像崇拜狂热等问题。这类虚拟数字人主要以满足主体用户的感觉体验为主，通过符合主体用户的审美妆造以满足粉丝群体的需求，此类被现实的人赋予情感依赖的虚拟数字人正在加速冲击不同年龄阶段用户群体的价值观和伦理观。[2]基于以上所述的不同应用场景，虚拟数字人正以多样化形式嵌于风险性语言、引导性动作以及指向性选择判断等方面，从而导致动态化的科技伦理问题。

二、虚拟数字人场景化应用中的潜在科技伦理风险

（一）价值对齐冲突风险

价值对齐是指大数据模型中所嵌入的价值目标及表现行为与人类主体的价值观相一致。价值对齐原则是由一位人工智能领域的计算机科学家罗素所提出，在瑞士达沃斯所举行的经济论坛中提出问题“我们如何才能建立与人类价值对齐的自治系统”。[3]如问题所示，人工智能与人类主体之间的价值观念能否完全等同，抑或人工智能产品内嵌的价值体系是否与主流价值体系契合，这是人工智能产品在技术研发与人文价值内嵌过程中均需要考虑的问题。

虚拟数字人作为人工智能产品之一，在使用数据算法、信息重组而达到与使用者互动目的过程中，现实主体使用者在互动过程中已经自觉融入虚拟数字人所架构的虚拟科技框架中。虚拟科技框架中包含产品设计者的价值倾向和决策倾向，从用户数据收集、辅助人类决策等方式对主体用户的价值观念产生潜移默化的冲击，随之产生的价值差异问题贯穿用户主体在被动接受虚拟数字人所传递的信息之中。例如，主播类型的虚拟数字人，这类具有表演服务性质的虚拟数字人，为了吸引大量在线用户进入直播间观看并长时间停留，从而形成高刺激性的直播固定模式，将虚拟数字人打造为极具个性化、视觉冲击化的虚拟形象，使得浏览用户会反复观看从而产生上瘾现象，对此类虚拟数字人产生无法理性判断的具体表现行为，从而形成“虚拟-现实”两者间的价值对立冲突，长期沉浸则形成风险性主体行为，呈现主体投入式价值观偏差。因此，价值对齐冲突风险贯穿于虚拟形象与现实的主体之中。

（二）情感寄托冲突风险

当虚拟数字人作为“虚拟偶像”呈现的时候，大量的粉丝会对其产生情感寄托现象。例如，初音时代以甩葱歌出圈，引发虚拟偶像崇拜现象。“虚拟偶像”作为技术主导的虚拟数字人，同时匹配虚拟粉丝文化背景，吸引众多青年粉丝关注。由资本逻辑推动，应用技术加持而形成的偶像型虚拟数字人，在剧情扮演赛道、美妆赛道、音乐赛道等多领域进行圈粉，出圈爆火后形成粉丝盲目崇拜、过度“追星”现象为情感寄托冲突打下基础。虚拟数字人作为场景应用类型的技术存在物，所回答人提出问题的答案是基于大数据算法所形成，所呈现的回答语句中具有重复性较强、语句重复含义较多等特点，回答通常以快速形成为主。在向虚拟数字人发起对话、问答的过程中，人们已经潜移默化地将其认定为呈现完美答案的个人助理形象，对其随心所欲地抛出问题，沉浸式享受于虚拟数字人所呈现快速信息内容的被动诱惑中，从而滋生出对虚拟技术产生无所不能的盲目崇拜，将虚拟技术误以为是超神化的真实存在物，所产生的现实主体单向性个体崇拜。虚拟数字人这种单向度化的算法内容输出，利用拟人化对话方式拉近问答主客体间的心理距离，通过结合所提问题的情景，对加工后内容整合呈现。

当虚拟数字人被应用于不同场景时，作为技术的产物，被附加“偶像”“明星”等具有情感投射的属性后，持续不断为粉丝群体提供所需要的服务，进而形成陪伴、依赖的关系。虚拟偶像类型的数字人多以视觉性的美好幻想体验吸引粉丝，以满足粉丝自身内心寄托需要，以至于形成依从性关系。因崇拜、喜爱而对虚拟偶像产生的情感寄托心理，很大程度上受到技术的调动控制，在接受粉丝的情绪释放和情感表达后，为粉丝也铐上技术枷锁。例如，当虚拟偶像的粉丝遇到现实难题的时候，会第一时间询问虚拟偶像，而不是询问现实世界的人，长此以往，导致现实主体在情感价值判断过程中丧失理性认知，从而对虚拟偶像产生情感寄托。因此，由偶像化的虚拟数字人所产生的现实与虚拟之间的主体情感冲突风险成为技术的负效应之一。

（三）现实认知脱域风险

现实认知脱域风险主要指的是现实主体通过使用虚拟科技产品从而出现脱离现实的问题。脱域，为社会学概念，由英国著名社会学家吉登斯在其著作《现代性的后果》中所提出，意为“社会关系从彼此互动的地域性关联中，从通过对不确定的时间的无限穿越而被重构的关联中‘脱离出来”。[4]虚拟数字人作为中介将现实的人与虚拟空间两者间的距离拉近，通过接受倾听、给予判断决策等方式禁锢现实主体，从而导致虚拟数字人和现实的人之间产生高度信任和依赖，而忽略其存在的风险性。

脱域已经逐渐成为现代性风险之一，现实与虚拟之间的认知脱域，将现实的人从原本有限性的认知空间带入无限性的虚拟空间。这种由虚拟数字人所创造出来的无限空间是具有流动性的，现实主体在使用过程中可以获得多重可切换的虚拟身份。通过拟人化的交流和沟通，打破虚拟与现实的差距感，使得现实主体穿梭于技术所创造的虚拟空间内。长期沉浸于虚拟数字人所打造的虚拟空间内，对主体认知产生虚拟性和地方性两者间的剥离，现实主体对于自我沉浸则呈现出自我约束能力下降的现象。因此，在虚拟数字人的使用过程中易出现现实主体认知脱域的风险。

（四）情绪价值数字化冲突风险

基于技术应用下的情绪脱胎于现实主体的真实情绪，虚拟数字人在与主体用户互动的过程中，常呈现具有情绪化的回答，是区别于传统机器所能提供的情绪回答。作为现实的人，其内心活动和思维活动较为丰富，反观虚拟数字人是通过数据算法回答的、不具有思维情感认知的技术应用。通常情况下，使用主体在于虚拟数字人互动的过程中，虚拟数字人的回答均以情绪安慰为主，将原本没有情绪价值引导的文本以问答方式植入用户主体的潜意识中，转变主客体关系，异化主体情绪价值，使主体用户丧失自主情绪意识，逐渐对虚拟数字人产生依从性情绪价值。“媒介即人的延伸。”[5]麦克卢汉所提出的这一概念中的“媒介”不单是广播、电视等传统媒介手段，这里的“媒介”是指人与社会和自然所接触的中介，虚拟数字人作为技术中介在获取主体完全信任后，将本具有情感感受能力的主体引导为服从于技术应用的主体，使主体人类陷入技术应用所设置的被动的情绪输出中，导致主体情绪价值异化、数字化，形成现实主体与虚拟数字人间的情绪价值数字化冲突风险。

（五）主体思维惰性冲突风险

虚拟数字人在场景应用中包含大量信息与数据，是以数据为核心的场景化应用技术。在数据信息化时代，现实主体也是计算和工作的对象。科学技术虽然为现代化社会发展做出贡献，但将包含人与自然的整个世界笼罩在技术的统治与数字的迷惑之下。虚拟数字人所呈现的回答方式和行为反馈看似合理，但使用主体早已在技术的控制之下，逐渐迷失主体价值理性，成为技术控制下的“被动人”，被动接受虚拟数字人所呈现的文本讯息和行为引导。虚拟数字人在与现实主体互动的过程中，现实主体受到理性工具的控制和制约，导致用户主体沉浸在文本堆砌的潮流中，无法对信息做出价值判断，对技术应用表现出价值理性迷失的状态。这种技术工具理性控制主体价值理性，使其逐渐忘却主体自身的价值判断能动性，一味接受虚拟数字人的信息传递，无法主动支配信息。

现实主体传统思维是以“分析－解决”为主，而随着虚拟数字人的出现及场景化应用，导致主体思维呈现惰性趋势，对无需思考、直接提供的文本信息更加着迷，使现实主体用户从潜意识中对虚拟数字人产生信赖感，将其看作客观的、事实的东西并完全接受。此时，主体思维由传统思考转向惰性思考，减弱了思维的主观能动性，缺乏自我思考意识，已经自觉地适应技术应用所创造的“思维暖房”中。

三、虚拟数字人场景化应用中的科技伦理反思路径

（一）算法向善价值转向

“向善”已经成为国际面对科技产品产生的消极影响的凝聚共识，面对虚拟数字人在场景化应用中所产生的负效应，从“善”的角度出发，纠正算法应用中的道德偏失问题。针对虚拟数字人的算法“向善”角度出发，扭转道德偏失的价值观融入场景化应用现状。第一，应加强虚拟数字人背后的算法伦理建设，由于虚拟数字人以拟人的形态拉近与现实主体之间的距离。因此，较多科技公司仍然使用违反道德伦理的算法进行操纵虚拟数字人，在应用过程中输出不良信息。第二，算法向善的价值转向应以正确的意识形态构建使用虚拟数字人的主体道德认知。虚拟数字人从算法角度以猎奇视角进行批量推送，导致用户主体易陷入算法所塑造的虚拟空间内，从而削弱主体的价值判断性。[6]因此，虚拟数字人的应用算法应去尖叫化、夸张化，以“向善”的价值范式构建良好的算法环境，拒绝将过度夸张、惊悚等低俗信息作为虚拟数字人传递信息的算法之一。第三，破除算法茧房，虚拟数字人所呈现的内容均符合现实主体的兴趣爱好，而长期沉浸于其中，会出现桎梏反应。因此，从算法向善角度出发，消除虚拟数字人茧房式的行为表达和言语传递，从算法角度按照主体兴趣爱好的关联度由强到弱进行排列组合式抓取并推送，增强虚拟数字人算法浓度。

（二）嵌入伦理性设计规范

虚拟数字人在为主体用户带来便捷的同时，引起主体对技术应用的依赖和思维的依从，应重视其技术属性所为主体带来的风险，避免因依赖技术而产生人的单向性发展。其次，将虚拟数字人的技术属性尽可能控制在可掌控范围内，防止因技术应用发展削弱人的现实性，理性看待科技发展，对虚拟数字人的发展及现实使用常常反思，逐步确立以构建人与技术和谐共生全面发展趋势，方能促进人的全面发展。始终坚持技术发展原则，防止因技术发展干扰人的个性化发展，强化虚拟数字人的技术应用伦理规范，对具有诱导性语言文本进行安全防控，避免加剧个人主体价值迷失现象，造成主体困于技术之中的问题。

虚拟数字人从开发、测试、推广、使用到广泛场景化应用，应全程嵌入伦理性设计标准。将伦理规范标准应用于虚拟数字人的设计全过程中，落实虚拟产品应具有的价值导向。应根据不同服务类型的虚拟数字人进行伦理设计标准制定，例如，直播类型的虚拟数字人应进行可追踪性算法植入，避免在直播过程中出现算法黑箱问题。伦理性设计标准保障现实主体不受到虚拟算法的侵害，也能为虚拟数字人的正确、有效使用打下伦理道德基础。对虚拟数字人进行道德算法植入，通过道德算法植入，从而实现虚拟数字人自身对所传达信息的伦理判断。

伦理性设计标准在信息传递及行为决策等方面为虚拟数字人的合理化使用打下基础，确保虚拟数字人在使用过程中保持正确、合理的道德伦理底线，不沦为不可控之物。虚拟数字人作为科技产品，应始终以现实的人的伦理标准为核心，充分发挥服务于人类的正向效用，在伦理尺度范围内实现虚拟数字人的场景应用价值，构建符合时代发展进步的伦理性嵌入标准，进而重塑现实主体与虚拟数字人之间的价值和谐发展氛围。

（三）强化现实主体地位

虚拟数字人作为科学技术应用应始终以“现实的人”为主体服务对象，以“人的全面发展”为核心，在发展人类主体个性化的同时，从全面发展角度强化现实主体地位。霍克海默指出，“不在科学技术本身，而在于那些阻碍科学发展并与内在于科学中的理性成分格格不入的社会条件。”[7]人类主体作为社会发展的主导者，科学技术应用发展是基于人的主导地位之下，应在面对风险的同时，促进主体与技术应用的和谐发展，坚持人类主体的能动思维地位，激发人类主体思辨能力，将技术优势转化为促进人类全面发展的本质力量。虚拟数字人作为科技进步的代表，是人类智慧的结晶，始终应围绕人类需求产生正向影响，摒弃塑造虚拟环境，回归全面发展的现实层面。广泛普及科学技术发展的优劣势，呼吁大众全面了解虚拟数字人的弊端，防止因过度使用而产生的数字情绪价值偏差、主体思辨能力下降等问题出现。

四、结语

人与人、人与社会、人与技术之间的关系均是基于社会发展而言，虚拟数字人作为科技产品，是人类在长期实践过程中所创造的虚拟生命体。实际场景化应用过程中，必然会引起虚拟生命体与现实人类生命体之间的价值冲突，从而导致科技伦理问题。通过探究虚拟数字人再现实场景应用对主体现实主体的影响和转变，进一步确立科学技术发展始终应以“现实的人”为价值目标。科学技术发展的积极影响毋庸置疑，但因其引发的科技伦理问题是影响全面发展的负向反馈，负向反馈的影响值得反思。如何发挥虚拟数字人为人类主体服务的创造性功能，令技术与人的全面发展同向而行是科技发展的使命，也是如何实现“人的全面发展”的职责所在。纵观科技伦理问题的产生，从单一化的技术角度和现实主体使用角度均不能将科技伦理问题平衡解决，寻求“虚拟-现实”的科技伦理问题平衡点成为虚拟数字人与现实的人共同生存发展的关键。因此，面对虚拟数字人所产生的价值对齐冲突、情感寄托冲突及认知脱域冲突等科技伦理风险，从向善的价值观、伦理性设计标准等多维度思维破解科技伦理风险，促进人类主体与虚拟主体两者间的健康发展。

参考文献：

[1]毛新志，刘星，向云霞.“数字虚拟人”的哲学反思[J].重庆工学院学报（社会科学版），2009，23（05）：97-99.

[2]晏青，何丽敏.从猎奇到疗愈：虚拟偶像崇拜的技术取向[J].新闻与传播评论，2023，（05）：78-88.

[3]闫坤如.人工智能体价值对齐的分布式路径探赜[J].上海师范大学学报（哲学社会科学版），2024，（04）：

131-139.

[4]杜智涛.技术身体再造虚拟数字人的正面效应与风险研究[J].人民论坛，2023，（23）：44-47.

[5]马歇尔·麦克卢汉.理解媒介：论人的延伸[M].何道宽译.南京：译林出版社，2011.

[6]朱廷劭.算法技术人文应用中的向善思考[J].人民论坛·学术前沿，2022，（10）：77-81.

[7]（德）霍克海默.批判理论[M].李小兵等译.重庆：重庆出版社，1989.

作者简介：

张楚晗，女，满族，辽宁锦州人，沈阳师范大学马克思主义学院硕士研究生，科学技术哲学专业，研究方向：生态哲学。