APP下载

人机交互的互诱导性

2023-05-30张琴

艺术科技 2023年10期
关键词:人机交互

摘要:以ChatGPT、Bard、Copy.AI为代表的人工智能的出现将AIGC推上了风口,带来了人类信息传播范式的根本性转变,使创作主体由用户转向机器,颠覆了传统的大众传播模式和社交媒体传播模式,即以内容为中心和以用户为中心。AIGC诞生于人机交互的新时代,是一次技术革命。ChatGPT的出现代表人工智能技术开始从量变转向质变,进入人与技术交互的新阶段,即人与技术互为尺度。但在欣喜于新技术取得突破的同时,新的担忧也随之产生,必须深入思考人与技术将走向什么样的未来、人在AIGC营造的虚拟世界中能否理智生存、人与技术之间的互诱导性是否会将人类带入更深层次的“AIGC茧房”等问题。这是人类信息传播方式的巨变,也是治理范式的重大转变。每一种新的应用都带着偷懒的诱惑。当前的AI会话仍然具有不透明性、不稳定性等缺陷,人与机器互为主体,协同生产,隐蔽的互诱导性极易将人类带入更难逃脱的“AIGC茧房”。效率的提升及傻瓜式的内容生成,场景拓展与智能交互下的智能操作,无限制的沉浸式体验等加固了“信息茧房”。对此,文章提出治理人机交互时代的“信息茧房”,关键在于正视新的技术浪潮,重塑身份,理性看待技术的诱导性,秉持“技术向善”的理念;以AI对AI,允许算法多元性的存在,用竞争消弭诱导性;建构权力分配的新范式,用社会治理共同体的身份构建人机传播的新生态,打破技术对人类的全景式窥视。

关键词:人机交互;AIGC;互诱导性;AIGC茧房

中图分类号:G206;TP18 文献标识码:A 文章编号:1004-9436(2023)10-0-04

0 引言

相较于传统的UGC(用户生成内容)、PGC(专业生产内容),AIGC(人工智能生成内容)的创作主体从人变为人工智能,拥有数据巨量化、认知交互力、内容创造力等独特的技术特征。早期的AIGC大致分为文本生成、图像生成、音频生成、视频生成等几个领域,随着AI技术的日新月异和元宇宙应用场景的出现,由产业驱动的AIGC迎来爆发式增长。

英国技术哲学家大卫·科林格里奇曾经指出,一项技术如果已经成为整个社会政治、经济、文化的一部分,控制它就为时已晚,技术有可能走向失控,此时解决它带来的后果会耗费大量的时间和精力,甚至难以改变[1]。因此,本文从人机交互的视角,考察AI时代互诱导性的产生及其带来的“AIGC茧房”的成因与破解之道。

1 AIGC与互诱导性

AIGC成为数字基础设施的同时,互诱导性随之产生。人类对技术的不断突破使AI成为可以在人类世界中自主参与社会互动的主体,形成“人+机器人”的传播格局,人机互动成为一种可想象的社会图景[2]。人机交互不仅带来了社会结构的变化,还暗含互诱导性。诱导性指媒介通过直接刺激受众的各种感官,传播信息、意义和情感,对受众预期的认知、态度、观点的改变,导致受众使用行为的改变。互诱导性以人机交互为前提,是AIGC发展过程中人工智能通过“对话”或“技术偷懒”等方式改变人的主体意识,使人对机器产生工具依赖;在无限制的技术使用下,人也许会诱导技术从事违法生产等活动。AI时代出现互诱导性的原因包括以下两个方面。

1.1 人与机器互为主体

ChatGPT的爆火背后隐藏着生产力的巨大变革。AI从生成简单语句到生成一定篇幅但毫无逻辑的段落,再到如今的“正常交流”,体现了人对智能化信息处理模式的不断改进。从信息的生产、传播到消费,用户如今变成了媒介内容的主动生产者与传播者,但机器对人的生产活动的渗入程度也在不断加深,用户在内容生产的主导模式中不断隐身,技术的主导地位逐渐明显,由此AIGC带来用户与机器互为主体下生产力的变革。

1.2 人与机器协同生产

AIGC的内容生成主要由人来设置和输入指令驱动,在这个过程中延伸了AI在现实生活中的应用场景。AIGC生成的内容又转变为人类数据被AI学习,循环往复形成了人机协同参与的创作运动。内容生产在人机协同中被赋予了新的内涵,衍生出人与机器共存的新范式,即相互影响、相互嵌入、相互依存、协同共进,从人对机器的单向使用变成了人与机器的双向依存,形成人机交互的“同构性”。

2 互诱导性下“AIGC茧房”的成因

“信息茧房”是由美国学者桑斯坦在数字时代个性化信息逐步兴起的背景下提出的概念,指人们只听自己选择的和能让自己感到愉悦的东西[3]。但在人与技术同构现实社会的Web3.0时代,“信息茧房”悄然发生了变化,人与技术之间互诱导性的存在强化了“茧房效应”。当前的AI会话、内容生成仍然具有不透明性、不稳定性,AI创造的高级版碎片化形成的“AIGC茧房”将比以往更加难以突破。“AIGC茧房”的生成主要表现在以下三个方面。

2.1 效率:傻瓜式内容生成必然导致“信息茧房”产生

人在数字空间中轻易产生多巴胺时,会对工具上瘾。AIGC除了包含语音识别、自然语言理解等核心技术之外,还可以利用生成式对抗模型(GAN),利用神经网络算法生成内容识别图像内容表征,并在特定神经网络层对图像进行重构,这就使AI画作能够模仿特定风格的艺术作品[4]。AIGC是学习型人工智能,除了在算法上实现了模拟加工、内容上实现了流程自动化等以外,还节约了内容的生成时间,提高了内容生产效率,更重要的是延伸了人类的感官与行动能力,拓展了人的脑力与体力。

ChatGPT仅上线5天,用户数量就突破了100万,马斯克称“许多人陷入了该死的疯狂ChatGPT循环中”。首先,技术使用门槛的降低填平了用戶之间的“能力沟”,生成效率的提升直接解放了人类的双手,增强了用户黏性;其次,技术的推出与推广需要用户支撑,为了获取足够多的利益,算法本身就带有偏见;最后,AIGC的核心动力是内容生产变革,ChatGPT能够为用户带来媲美真人对话体验的关键在于其是基于预训练使用的偏好数据及评分算法,除了大规模的公开语料之外,还有“几万人工标注”的数据,这些数据均为人工偏好知识,导致用户非理性与圈层化的“情绪茧房”的形成。人对机器的询问以及机器选择回答本身就意味着对某个暗含假定事实的承认,AI在帮人们作出选择的同时,“AIGC茧房”逐渐形成。人创造了AI,AI反过来也在以自身的技术意向结构“规训”社会主体[5]。

2.2 智能:场景拓展与智能交互导致“信息茧房”扩大

人在数字空间中感到方便舒适时,会对同质化信息、同质化交往成瘾。AIGC通过“本地+云+边缘计算”的模式实时感知人、物、环境,并与之实时交互。例如人形机器人,通过神经网络、计算机视觉工作,实时感知和计算文本、图片、视频、触觉等多模态数据,化身“工程师”“艺术家”等身份,完成具有创造性的工作。ChatGPT拥有多达1750亿个模型技术支撑其解决实际问题,相较于分析式人工智能,AIGC能够以细粒度更高的方式,在个体需求指令的基础上展开合理想象,实现更加细腻和精准的连接,深度模拟人际交往方式。

AIGC的内容生成以用户需求为导向,突破了时间、场景、个性的限制,使人与机器之间的关系更加密切。技术的进步为人类的进化插上了想象的翅膀,智能交互下场景的拓展延伸了人的生存空间,场景时代是媒介作为“人的关系连接”在现实世界的最高形式[6]。人在技术进步的洪流中慢慢“技术成瘾”,技术提供的智能交互与场景复刻也更具有欺骗性。AIGC在多模态情境下可以采用文本、语音、视频等“半真半假”的形式欺骗用户,这被称为“骗子的红利”[7]。例如2022年5月,有诈骗集团利用深度伪造技术冒充马斯克生成谈话视频,欺骗受害者投资其加密货币交易平台。深度伪造技术的存在,导致“AIGC茧房”扩大,凭借其“真实性”诱导用户上当,而目的不单纯的用户也利用AIGC获取了利益。

2.3 体验:用户体验无限制沉浸导致“信息茧房”加固

人在数字世界里感到自我超越时,会对现实世界产生反感。AIGC是在拟真度和功能维度上新的里程碑,其内容生成围绕形态迭代与创意驱动这两个维度展开,更加注重用户体验。利用仿真技术、计算机图形学等人工智能手段,AIGC在视觉、听觉、触觉等多感官的基础上为用户带来沉浸式、无边界、仿生级感官体验。

AIGC实现了虚拟世界中感官的全方位“连接”,但这种器官“遮蔽”导致信息的密度和含量越来越大,出现信息的“胶状体”,导致信息发生折射、模糊。信息空间之间的壁垒越来越厚,“信息茧房”的存在更加明显。此外,早期的VR、AR设备佩戴舒适度较低、使用感不佳,只是对现实世界的复制。与其不同的是,AIGC是对现实内容的数字孪生,如Replika聊天机器人通过养成式设定,使用户体验到其具有逻辑性的情感体察和细腻化的聊天。仿真情感的背后,很容易带来用户无限沉浸的体验,这种器官“遮蔽”导致公域与私域的界限模糊。AI直接嵌入人体,实现人机交融,现实身体与虚拟场景相连,实现身体的持续在场和想象意识的“具身化”[8]。值得注意的是,人在运用AIGC实现沉浸式体验的同时,身体会被数据化,化身数字劳工为AIGC贡献数据,同时产生离身感危机。

3 对“AIGC茧房”的思考

当前已不是弱人工智能时代,必须承认技术与人类的共存性,互诱导性的产生是必然的。需要明确的是,“AIGC茧房”出现的根源是人们的选择性接触心理,虚拟世界的诱惑就像潘多拉魔盒,表现为人与媒介、存在与意识的共生。桑斯坦对“信息茧房”的定义,从根本上说,是生理上驱动并不断强化的“自反性沉迷”,这是虚拟生存症候群的潜在逻辑[9]。如果“AIGC繭房”固化,就会形成“信息、意见—利益、社会”的“板结化”的连锁反应,造成社会偏见下的矛盾冲突,进而引爆社会危机。因此,从这个意义上说,在讨论“AIGC茧房”带来的负面影响时,不应仅仅指责技术的消极性,更应思考如何避免人与技术的相互诱导。无论技术会带来更好还是更坏的社会结构,问题的根源都是掌握技术权力的人与掌握政治和社会权力的人之间的深层矛盾。

3.1 身份重塑:治理共同体祛魅偏见性的技术认知

正视技术的存在,理性看待其诱导性。需要明确的是,任何技术的社会化落地,实质上都是技术与社会选择“互构”的结果[10]。媒介环境学派认为,技术会形成一种“媒介环境”,并影响受众的认知、态度和行为,“AIGC茧房”是人与技术的互诱导性下的产物。首先,AIGC是基于用户的偏好进行的预训练模型基础,从一开始就具有数据的倾向性;其次,用户的选择性接触心理带来工具依赖,在AI技术的诱导下,继续扩大其原有的偏好信息选择范围。

从互联网到元宇宙,技术已经成为现实世界的一部分,当人类产生过度的工具依赖时,不应一味指责技术带来的负面效应,而是要重塑身份,采取社会治理共同体的手段应对“AIGC茧房”。首先,要打破对AI的“技术崇拜”。ChatGPT的文本生成仍然需要用户的指令前缀,其本质上还是一个大型的语言模型,属于深度学习的框架,人在面对AI技术时具有主动控制力。其次,“赋魂”智能模型,坚持控制算法模型的核心逻辑,将社会公允的价值判断“赋魂”至算法模型中,使其始终保持技术向善的秉性,如对语料库的选择和训练模型的价值逻辑建构。最后,社交媒体、监管部门和网络平台要积极投身于治理共同体。例如,主流媒体的功能与角色定位须转向“To B”模式,充分利用耗散结构下的超循环理论、突变论等原理进行新的社会传播的“再组织”。

3.2 生态构建:AI对AI及人力物力的良性匹配布局

允许算法多元性的存在,用竞争消弭诱导性。算法市场存在利益竞争,以AI对AI,不仅可以更加精准地解决技术问题,而且能够使人与机器的生态环境更加平衡。

AIGC的核心任务是对人类自然语言语料数据进行模型匹配、拟合,在拟合的基础上根据一定的数学逻辑甚至是非确定逻辑输出,导致不可预测性永远存在,进而导致互诱导性的不确定和隐蔽性。面对隐蔽的互诱导性,只能采用技术对技术的策略进行反制。应针对不同语言模型的技术特点提前调研与创新,不断优化人工智能内容生成监测系统。例如,针对AI或人工生成的文本进行内容识别,给予用户更多的选择权,逃出单一的信息囚笼。此外,AIGC生成的文本有时会出现语义错误和语义不一致的情况,也会出现人为生成虚假信息的情况,虚假信息会扰乱社会秩序,导致媒介公信力下降,增加群体极化的风险。对此,可以从逻辑、语义语法等方面开发内容检测工具,通过分析语言特征和上下文信息来识别虚假信息。

AIGC主要围绕算力、算法、算据这三个方面建构,但算法不是万能的,需要在这三个领域做好人力物力的充分布局,与AI形成良好的匹配和互补。当用户深陷在AI所创造的超现实环境中,沉溺在“AIGC茧房”中并对技术的诱导性浑然不觉时,需要利用更警醒的技术唤醒人类,避免任何一种算法成为用户近乎唯一的选择。

3.3 协同分工:主动让渡下构建权力分配的新范式

权力运作及分配需要新的协同分工,只有这样才能打破“AIGC茧房”。在AI时代,权力运行方式从表现向交流转变,从规范性向事实性转变,从外部的高高在上向内在生命化转变[11]。由AI建构起算法无所不至的传播权力,需要分析其背后的权力结构。低门槛、对话式的AIGC的出现打破了传统的“网络信息—算法技术—监管部门—一般民众”的传播链,形成了“算法技术—网络信息—一般民众”这一新的传播链,作为权力驱动的监管部门的存在不再明显,算法技术赋能赋权,掌握权力的命脉,导致信息传播结果的新一轮“窄化”,也带来算法运作范式的“黑箱”。

英国文化研究专家斯科特·拉什强调,“在一个媒体和代码无处不在的社会,权力越来越存在于算法之中”[12],因此要建构权力分配的新范式。第一,监管平台要主动承担责任,进行自我赋权,做好对隐藏在幕后的资本力量的市场监管工作,针对不符合社会治理规范的AI技术及时颁布禁令;第二,媒体要重视伦理和道德规范,始终保持独立思考,对AI技术保持理性思考,及时反馈AI技术引发的伦理问题等;第三,让渡算法公司自主权,同时考虑到用户的合法权益,包括不被算法监控的权力;第四,用户要积极争取权力的让渡,具备参与设计自身信息接收框架的意识,避免被过度沉浸式体验和情感诱惑固化自身的信息偏好,积极打破“AIGC茧房”带来的诱导性,打破技术对自己的全景式窥视。

4 结语

在复杂的人类世界中,很多影响其运行的初始变量早已产生,AI只是在加速这一进程;“鸿沟”原本就存在,技术只是在扩大“鸿沟”;互诱导性一定存在,人的选择性偏好心理导致“信息茧房”产生。当数字不平等在加速时,人的抵抗不能失速。在AIGC为人类提供的“超真实”世界中,人们与其共生,它成了人们衡量世界的尺度,但在共生的征途中,必须警惕互诱导性的存在及其带来的“AIGC茧房”。在Web3.0时代,人仍然是衡量机器的尺度,人们要为科技的进步狂欢,同时保持人文的谦卑,对数字化生存中的人的欲望保持警醒。在未来,应該如何减少“信息茧房”的负面影响,利用AIGC创造出乌托邦式的世界,值得深入研究。

参考文献:

[1] 大卫·科林里奇.技术的社会控制[M].伦敦:法国出版社,1980:3-15.

[2] 张洪忠,段泽宁,韩秀.异类还是共生:社交媒体中的社交机器人研究路径探讨[J].新闻界,2019(2):10-17.

[3] 凯斯·R.桑斯坦.信息乌托邦:众人如何生产知识[M].毕竞悦,译.北京:法律出版社,2008:7-8.

[4] 虞怡晶,柴利.基于神经风格转移的无覆盖图像隐写术[C]//第十四届国际数字图像处理会议. 2022:870-878.

[5] 刘千才,张淑华.从工具依赖到本能隐抑:智媒时代的“反向驯化”现象[J].新闻爱好者,2018(4):13-16.

[6] 喻国明,马慧.互联网时代的新权力范式:“关系赋权”:“连接一切”场景下的社会关系的重组与权力格局的变迁[J].国际新闻界,2016,38(10):6-27.

[7] 切尼斯.B.深度造假:隐私、民主和国家安全面临挑战[J].加利福尼亚法律评论,2019(107):1753.

[8] 张洪忠,斗维红,任吴炯.元宇宙:具身传播的场景想象[J].新闻界,2022(1):76-84.

[9] 杜骏飞.“未托邦”:元宇宙与Web3的思想笔记[J].新闻大学,2022(6):19-34,119-120.

[10] 喻国明,苏健威.生成式人工智能浪潮下的传播革命与媒介生态:从ChatGPT到全面智能化时代的未来[J].新疆师范大学学报(哲学社会科学版),2023(3):1-10.

[11] 斯科特·拉什,程艳.后霸权时代的权力:变化中的文化研究[J].江西社会科学,2009(8):248-256.

[12] 斯科特·拉什.霸权之后的权力:突变中的文化研究?[J].理论、文化与社会,2007,24(3):55-78.

作者简介:张琴(1997—),女,江苏泰州人,硕士在读,研究方向:网络舆情。

猜你喜欢

人机交互
某型柴油机虚拟维修系统研究
基于虚拟现实技术的九江城市交通事故模拟系统设计
人机交互课程创新实验
人形交互式服务机器人研究现状及发展趋势
基于任务规划的家庭仿真服务机器人的研究
多点噪声远程自动采集系统设计
基于智能手机的盲人语言应用软件的设计与开发
基于Intel Realsense技术的感知展示系统的设计与开发
一种静态手势数字识别的实现及应用
图像处理耦合模板定位的答题卡识别研究与应用