脑机接口技术支持学习情感识别的应用框架及反思
2023-05-21赵丽李苏琦王淑文
赵丽 李苏琦 王淑文
[摘 要] 人工智能技术支持下的学习情感识别在教育教学研究中至关重要,能够促进教育教学策略的改进。脑机接口技术作为人工智能技术的一项重要应用,已成为情感识别领域研究热点之一。文章分析了脑机接口技术支持学习情感识别的发展动因,进而构建包括数据处理、情感表达与教学调控三个过程的脑机接口技术支持学习情感识别的应用框架,探讨了脑机接口技术在学习情感识别领域仍面临的技术鸿沟、伦理挑战与学习者的主观偏见等局限。最后提出未来脑机接口支持下的学习情感识别可从强化技术融合、发展以人为本为导向的设计,以及尊重学习者的主观需求等方面进行改进,从而保证脑机接口技术支持学习情感识别应用的可行性,并综合衡量学习状态,拓展其在教育领域的应用与创新。
[关键词] 脑机接口; 情感识别; 人工智能; 学习情感; 教学调控
[中图分类号] G434 [文献标志码] A
[作者简介] 赵丽(1982—),女,江苏南京人。副教授,博士,主要从事在线学习理论与实践、课堂教学模式变革、学生思维能力培养研究。E-mail:li.zhao@njnu.edu.cn。
一、引 言
情感(Emotion)是个体对客观事物是否满足自己的需要而产生的态度体验[1],其可以反映个体当下的生理与心理状态,并对个体的认知、沟通与决策等产生重要影响[2]。在教育领域,学习者的学习情感会影响他们的信息处理水平、回忆再现能力和外在表现行为[3]。在学习过程中,学习者产生的高兴、专注等积极情感能够激发他们的学习动机,提高学习投入度,促进认知加工活动;而焦虑、悲伤等消极情感会抑制学习者的学习动机,影响他们的学习注意力和专注度,阻碍认知活动[4]。因此,学习情感是学习者学习行为的重要驱动因素[5],准确识别并分析学习者的学习情感,能夠及时判断学习者的学习状态,从而给予精准调控,保障良好的学习效果。学习者学习情感的变化会受到多种因素的影响,通常会伴有个体行为表征和生理、心理反应的变化,因此,可以采取科学的方法对其进行识别与分析。
情感识别(Emotion Recognition)的概念最早在Minsky教授于1986年编著的《心智社会》中提出[6]。这是一个跨学科研究领域,涉及计算机科学、心理学、认知科学、神经科学等多个学科,指的是对情感信息中比较有代表性的特征进行提取,并根据提取到的特征进行情感分类,从而识别并判断出个体当前所处的情感状态类型[7]。其作为情感计算领域的重要组成部分,赋予了计算机识别、理解与分析人类各种情感特征的能力[8],在计算机与人类情感之间建立联系,实现了自然、生动的人机交互。
情感识别的关键是找出个体情感与其情感信息介质之间的映射联系[9]。一般来讲,情感信息介质通常包括行为信息和生理信号两种形式,情感识别通过采集个体的行为信息和生理信号两种方式来评估个体的情感状态[10]。在以往的研究中,研究者通常将采集到的学习者的面部表情、课堂发言、肢体手势等多种模态行为信息作为情感识别的源数据,其具有丰富性和多样性等特征,但同时也具有欺骗性、不准确性等局限。随着人工智能发展和多学科不断交叉融合,更自然的人机交互系统的实现获得广泛关注。作为人机交互的一个重要应用,脑机接口技术(Brain-Computer Interface,简称BCI)已成为神经科学研究关注的热点课题。情感脑机接口(affective Brain-Computer Interfaces,简称aBCI)作为脑机接口技术专注于情感领域的研究方式,为情感识别提供了新手段。其可以在计算机和大脑之间建立非肌肉通道,直接采集大脑皮层的脑电信号[11],极大减少了情感识别对外部行为的依赖,从而获取更加真实的情感数据。因此,基于脑机接口技术的情感识别以其显著的优势在现阶段和未来都有着广阔的应用前景。然而,现阶段由于脑机接口技术尚不完善以及相关法律政策的缺失,也有人在谨慎地反思新技术对个体精神领域的侵害风险[12],因而脑机接口技术支持学习情感识别或面临实际应用的可行性等诸多问题。因此,本研究聚焦脑机接口技术支持下的学习情感识别,从学习情感识别的研究现状、脑机接口支持学习情感识别的应用框架、反思与建议,探讨脑机接口技术支持学习情感识别的实现路径及可能存在的应用局限,为脑机接口技术支持学习情感识别的未来研究与实践提供一定参考。
二、从多模态到脑机接口技术:学习情感识别的研究路向
人工智能与传感技术的融合应用,使通过采集学习者的面部表情、语音等模态信息进行情感识别成为研究热点。随着人工智能和教育神经科学的发展,研究者也在试图采集与分析学习者的生理信号以检测和识别学习者的情感状态。
(一)多模态支持下的学习情感识别路径及困境
不同的情感对行为有不同的导向作用。通常用来评估学习者的学习情感状态的方式包括自我报告、行为观察和学习情绪量表等行为和心理测量方式,存在结果准确率不高、主观性较强等问题[13]。近年来,随着传感技术与人工智能的融合应用,利用多模态信息来解码个体情感已成为情感识别领域常用的信息处理方式。模态指某件事发生或经历的方式,是属于身体或情境中一种可衡量的属性[14],人的各种感官和信息的传播媒介等都可以被称作一种模态[15]。在传统的情感分析研究中,研究者通常基于某一种模态进行分析。如,基于学习者的触觉这一模态,Tewell等设计了热刺激阵列来提高学生对信息的情绪唤醒能力[16]。在特定的教育场景下,学习者的行为姿态、语音表达和面部表情等往往具有复杂性,单模态支持下的情感分析难以全面、准确地识别、分析出学习者的学习情感。因此,大多数情况下,人类会通过声音、面部表情、肢体语言等融合多种模态表达情感。当前,多模态情感识别主要对象包括文本、语音、面部表情、肢体行为、学习情境、生理和心理数据等[17]。
相比于单模态支持下的学习情感识别,多模态支持下的情感识别可以利用多种模态信息源进行情感信息的相互印证与补充,有效提升了学习情感识别的准确性。然而,多模态情感识别仍面临一些挑战:首先,虽然学习主体的面部表情、语音、肢体行为等模态数据便于收集,但由于此类信息受主体主观控制的作用较强,模态信息可能具有欺骗性,无法保证结果分析的可靠性[18];其次,融合多个模态信息进行情感识别会使不同模态信息特征间的相关性变得复杂,处理分析的数据量会大幅度增加,而大规模数据可能会引起数据混乱[19];再次,多模态支持下需要对多模态数据进行压缩,有可能导致一些信息的丢失;最后,不同模态的信息源之间可能存在时间异步的问题,从而无法实现实时性的多模态融合。
(二)脑机接口技术支持学习情感识别的可能探索
相比易受外界因素和主观动机干扰的外显行为信息,内在的生理信号更加稳定并难以主观操控[20], 因此,基于个体内部的生理信号(如脑电信号、心电图等)来监测情感变化会更加直观且真实[16]。其中,基于脑电信号的情感識别为个体内部情感状态的监测提供了一种直接有效的方式。因此,利用脑机接口技术采集学习者的脑电信号以进行学习情感识别逐渐受到了研究者的关注。
脑机接口技术指通过在学习者的大脑与外部设备(如计算机)之间建立直接交流的信息通道,对大脑生理数据进行编码与解码,从而实现大脑神经系统和计算机间信息传递、交互及功能整合的技术[21]。目前的脑机接口技术可采集、转换与识别大脑神经信号,将学习者的内隐信息进行外显化表征。学习本质上是大脑神经元建立连接的过程[22],从神经科学的视角对教育领域出现的各种问题开展剖析与研究已成为教育研究领域的一个重地。
脑机接口技术研发初衷是帮助身体失能者重获与外界交互的能力[23] , 医学领域是脑机接口应用主阵地之一。随着技术不断发展,脑机接口技术在认知领域中也有广阔的应用前景,其可以实时预测人体的认知情感状态[19]。在学习过程中,学习者的脑电特征会因学习认知活动的不同而存在差异,而脑电特征可通过脑电信号(EEG)、近红外光谱(fNIRS)等信号介质进行表征[24]。因此,利用脑机接口技术能够实现对脑电信号的采集与分析,是深度解码大脑中学习与认知信息的重要前提。
随着脑机接口技术的发展与多学科融合趋势日益明显,脑机接口技术的教育应用也逐渐成为重要的教育研究议题。教育对个体的作用不仅作用于个体的外显行为,还对个体内隐的、深层次的神经生理活动产生影响[25]。运用脑机接口技术检测并反馈学习状态,对提升学生注意力、认知力和理解力等能力有积极影响[26]。随着多学科的交叉融合,教与学背后的脑神经认知机制得到教育研究者的广泛关注,以期制定出更符合人脑学习规律的教学策略[27]。学习者的情绪状态、专注度、认知负荷等认知状态对学习效果存在重要影响,利用脑机接口技术可从神经生理信号的角度对学习者的专注度、情绪等状态进行分析[28],这或是解密学习者复杂行为背后内隐认知状态的可行性方法。
三、基于脑机接口技术的学习情感识别
应用框架
应用脑机接口设备对大脑活动进行识别通常有主动和被动两种控制方式[29]。在大脑主动进行活动时,个体通过直接和有意识地生成命令来控制设备,这些命令被连接到外部应用程序。相反,被动状态下的脑机接口系统是指大脑信号在没有任何自愿控制的情况下产生输出的系统。个体情感识别即属于被动脑机接口的实现方式[30]。脑机接口系统通常包含信号采集、信号处理和交互控制三个模块[31]:信号采集模块指利用信号采集设备采集带有大脑活动信息的信号介质,以便于后续的处理、分析与应用;信号处理模块旨在对采集到的大脑信号进行分析,解码其包含的大脑活动信息,从而了解大脑意图;控制模块需要将大脑信号转换为外部设备可识别的信号,从而在外部设备上呈现大脑意图,以供研究人员对其进行进一步的分析与研究。本研究在情感识别研究基础上,结合对学习者情感状态特征的分析, 以离散情感模型为基础[32],建构脑机接口技术支持学习情感识别的应用框架(如图1所示)。该框架主要包括数据处理、情感表达与教学调控三过程,立足于实际的教学场景,采集学习者在上课期间的脑电信号,依据离散情感模型并利用相关算法对脑电信号进行预处理、特征提取以及情感分类,随后通过交互控制模块将处理好的脑电信号转换成其它设备可识别的控制信号;对情感分析模型进行反馈与评估,可利用可视化方式表达学习情感,并对学习情感进行正确归因;最后,基于分析结果,从教师和学生两个角度动态干预与调节学习者在课前、课中和课后三个学习环节的情感状态,实现全方位学习情感调节。
(一)立足课堂教学,采集与处理学习情感数据
课堂教学情境中,学习者的情感状态通常会随着教师的引导和与同伴的互动而随时发生变化,学习者的大脑皮层处于始终活跃的状态。因此,可借助脑机接口技术对上课时的学生进行实时脑电信号采集。通常情况下,脑机接口技术有三种采集信号的方式:侵入式、非侵入式和半侵入式。考虑到实际教育场景的复杂性以及学习者的身体状态,在不影响正常学习进度的情况下,采用非侵入式,由学习者头戴脑电帽,通过电极采集脑电信号的方式最为便捷。另外,脑机接口技术支持下的学习情感识别属于被动性脑机接口,主要依赖于非自愿调节的大脑活动,系统可以实时捕捉学习者的情感状态,他们不必为达到特定结果而主观改变自己的心理活动。
随后,利用脑机接口系统对采集到的脑电信号进行数据处理。数据处理是脑机接口系统的核心模块,包括预处理、特征提取和情感分类三个阶段。首先,进行脑电信号的预处理,根据采集到的脑电信号的时域和频域特点及不同来源,利用主成分分析(PCA)、独立成分分析(ICA)、非线性滤波等方法最大程度去除脑电信号中的噪音干扰[31],提高EEG信号的信噪比,放大脑电信号,并将其数字化,为后续的数据处理做准备。其次,利用STFT对脑电信号的功率谱密度(PSD)和频谱熵(SE)等统计特征进行时域、频域、时频和非线性特征的特征提取[33],这是为了降低脑电信号数据的维数以提取出与学习情感相关的特征。再次,依据离散情感模型和现有的基准情感数据库,利用无监督学习、半监督学习和有监督学习等情绪识别分类方法和自组织映射(Self-Organizing Map, SOM)、支持向量机(SVM)等分类器进行情感分类,实现脑电信号与积极、中性和消极三种学习情感的映射关系。最后,通过脑电转换模块,将处理后的脑电信号转换成可以被外部设备识别或操作的控制信号或命令,以实现实时、准确的输出。
(二)依据分析结果,表达与反馈学习情感数据
对经过脑机接口系统分析后的情感识别模型进行结果反馈与评估,将识别并经过处理的学习情感信息进行可视化表达与反馈。可视化是将数据、知识和信息等转化为可视的表达形式的过程,可以更加直观地识别并理解更深层次的数据[34]。在实际教学场景中,可视化的情感表达可以实时、生动地呈现学习者的情感状态,促进脑机接口系统与学习场域的情感交互,提升脑机接口技术支持学习情感识别应用的友好性与学生的学习体验。另外,学习情感的可视化表达还可以作为脑机接口系统与实际教育场景的桥梁,教师和学生可根据学习情感的可视化表达的结果,针对性地对教师的教学策略、学习者自身的心理状态进行调整与改善,以实现对整个教学与学习过程全方位的监督与调控。目前,可采用虚拟情感呈现(如交互式仪表盘、拟人表情等)和实体化情感表达两种方式实现学习情感的可视化表达。其中,利用交互式仪表盘可以按时间序列实时、动态地显示学习者的情感状态与频率,教师与学生借此可以掌握学生在學习过程中的情感变化趋势,从而全面了解整个学习过程。在实体层面,可以采用情感打印、点阵图技术等方式生成可视化情感报告,基于课堂时间线呈现情感的类型分布,基于点阵图技术呈现某一时刻学习者的情感类型,从而建立起基于教育场景的情感对应关系。无论是虚拟还是实体的学习情感呈现,其目的都是以求实现基于时间、情境、情感变化趋势和信息汇聚的情感可视化[35]。
(三)回归课堂教学,干预与调节学习过程
理解学习者情感状态的产生原因,对提供精准干预措施至关重要。因此,干预与调控学习者的消极情感,激发并保持学习者的积极情感,将有助于提升学习者的学习效果。控制—价值理论认为,学习者的学习情感受到学习者的个人特征、学业任务、学习参与、学业评估和外部环境等多方面因素的影响[36]。其中,学习者的个体特征包括学习者的个体属性、认知能力、学习风格与学习态度等方面,这些维度将影响学习者对学业活动的评估与成就;学业任务包括学习者在课堂和课下需要完成的学习任务;学习参与指学习者对课程学习的动机水平和投入程度;评估因素是指学习者对过去学习结果的总结,对当前学习活动的评估以及对将来的学习结果的预测;而外部环境因素是学习者所处的物理环境和与教师、同伴的社交环境等对其学习情感状态的影响,这些因素都将直接影响学习者的学习情感状态。因此,依据可视化情感表达的结果,基于控制—价值理论,可对学习者的学习情感产生的原因进行正确归因。
情感归因的结果可应用到具体的教学场景中,统筹调控教师的教学策略以及学习者的学习方式与学习状态。以保持积极学习情感、调节与干预消极学习情感、转化中性学习情感为结果导向,从教师和学生两个角度,通过师生、生生和自适应三种情感交互方式,在课前、课中、课后三个教学环节对学习过程提供全方位明确、清晰的干预与指导。在课前阶段,学生应主动开展课前预习,为课中学习夯实基础;教师基于学生先前课后的反馈以及课堂的表现适当调节预习任务难度,并设计恰当的情感材料。课中阶段是教与学的主战场,教师可通过播放图片、音视频、引导学生想象和自述、组织学生互动交流等方式主动激发学生的积极情感,同时学生应积极地参与到课堂活动中,与同伴积极互动,使自己始终保持一个积极的情绪状态,从而提升课中的学习效果。在课后阶段,学生应及时进行课中内容回顾,完成课后任务,了解自己在课中的薄弱之处,并及时巩固;教师通过课后辅导与学习成果评估的方式及时了解学生在课中的学习状态和学习效果,给予学生精准的辅导。
四、脑机接口技术支持学习情感识别的应用
反思与建议
脑机接口作为人机交互技术中具有革命性发展倾向的新型技术,已成为神经科学、工程科学、认知科学、教育科学等领域的重要研究议题。然而,由于技术鸿沟、道德伦理等问题,脑机接口技术支持学习情感识别尚未成熟,存在一些局限性,亟待改进。
(一)脑机接口技术支持学习情感识别的应用反思
尽管脑机接口技术能够实现学习者大脑信息与外界的传递与交互,但作为一项新兴技术,脑机接口技术支持学习情感识别在实际的教育场景应用中仍面临诸多挑战。
1. 技术缺陷:面临技术与数字鸿沟
首先,大脑是一个复杂的系统,情感活动需要由多个脑区信息交互共同完成[37],然而目前采用的基于时频特征的情感识别方法无法实现脑区之间的信息交互,因此,如何优化相关的情感特征提取与算法分类以提高学习情感识别的精确度是在接下来的相关技术研究中亟须解决的问题。其次,目前的脑机接口技术支持学习情感识别系统通常采用的是非侵入式的脑机接口技术,与侵入式和半侵入式相比,非侵入式对人体的伤害较小,但却存在脑电信号采集效率较低的问题[38]。再次,受技术的限制,目前脑机接口技术系统稳定性、自适应性较差,信号处理方式和转换速度都有待提升。如果这些问题得不到妥善解决,在后期实际应用过程中会对社会带来巨大的风险挑战。
另外,脑机接口技术的大部分成果停留在实验室阶段,还存在着很多尚未显露与解决的问题。且由于脑机接口技术的操作难度大,对应用环境的要求高,即使研究成果在实验室确认万无一失,但由于实际场景的复杂性,仍存在意外发生的风险,这也意味着该技术应用成本昂贵,无法全面普及。因此,当前从实验室研究跨越到实际的教育应用场景仍是脑机接口技术支持学习情感识别所面临的一项严峻挑战。
2. 伦理挑战:个人隐私面临侵犯
为准确把握学习者的个体特性,实时监测他们的情感状态,在执行脑机接口技术支持学习情感识别时,学习者的大脑数据会被全面采集,这将意味着学习者将处于一种透明的状态。然而,由于大脑数据会涉及很多敏感个人信息,存在着极大的学习者隐私被侵犯的风险[39]。更甚者,人脑是思想活动的物质载体,是由无数神经元组成的神经网络。在脑机接口技术发展当下,采集并分析由神经元活动引起的脑电信号,从而进一步全面解码大脑活动状态与意识或可实现。此时,人的思想将不再是外界无法触及的领域,脑机接口技术操控者可以通过刺激脑神经元影响、操纵人的思想与行为[40]。而人的大脑一旦被控制,其个人意识的连续性将会被打断,“人”便不再是人。
从法学视角看,现有法律鲜有涉及对个体精神完整的保护。在脑机接口技术出现之前,人的思想、精神活动、行为倾向等都活动于法律无法掌控的领域。然而,随着脑机接口技术的产生与迅速发展,作为精神活动的物质载体,人脑不再变得那么神秘与不可测,这同时也意味着个体的精神领域正面临被人踏足与侵犯的风险,这无疑会对现有的法律政策带来挑战。
3. 主观偏见:引发算法偏差
脑机接口技术尚未面向大众全面普及,部分人可能会对其存在新奇的心理,渴望使用脑机接口设备。但多数人更多地是对脑机接口技术存在一定误解,认为穿戴脑机接口设备可能会对个人的身体安全以及大脑主观意识产生一定威胁。即便个体乐于接受脑机接口设备的使用,但由于目前脑机接口设备的外观、使用方式以及规格等方面都与其他穿戴设备有较大的区别,在真实课堂情境下,脑机接口可穿戴设备可能仍会于无形中增加学生的心理负担,他们往往会想要展现积极的情感状态,然而适得其反,迫使学生频繁地做出调整自身情感的行为,这会影响其真实情感的表达,导致学生情感的内在体验和外部表达之间出现失调[41],造成在情感信号采集阶段出现一定的算法偏差。
另外,差异化的情感反馈也会导致学生情感行为强度增加。在脑机接口技术支持学习情感识别的应用过程中,学习者的情感状态会被直接划分为积极情绪、中性情绪和消极情绪,而这些包含着特定价值导向的情感分类,可能会对学生的人格尊严造成侵犯。实际上,学习者的情绪唤醒水平与其学习效果之间存在U型曲线关系,过于積极的情绪反而会降低学生的学习效果[42]。然而根据现有非此即彼的直接计算的结果,系统将对学习者的学习情感状态直接进行匹配,从而可能对被直接划分为消极情感的学生群体产生歧视等潜在风险。因此,学生的真实学习情感呈现将面临更多的阻碍,他们往往会更努力地进行情感“修正”[43],这也会影响其真实情感的表达。
(二)脑机接口技术支持学习情感识别的发展前景
人类的情感是一个受伦理、行为和文化等因素影响的动态建构过程[44],脑机接口技术支持学习情感识别的应用打破了传统人类情感的建构过程,势必会面临一些挑战。因此,应从现存发展局限出发,寻求一些实践性建议,以实现对脑机接口技术支持学习情感识别应用的管控效力。
1. 强化技术融合与创新,增强学习干预精准性
首先,脑机接口技术与其他智能技术的融合将会在提高认知任务性能、预测准确率和增强机器自我学习能力方面实现突破。面部表情、语音、肢体语言等多模态信号可以与脑电信号等生理信号相结合,更加全面地预测学生的情感状态。因此,将脑机接口技术与多模态技术相结合能够提高对学习者学习情感识别的准确率,从而综合评估学习者的学习状态,增强学习情感干预的精准性[51],实现学习环境中的情感交互。另外,技术创新力是技术发展和稳定的主要推动力[46]。在进行脑机接口技术支持学习情感识别的技术设计时,既要保障技术运作的完整性、流畅性和科学性,同时还应考虑其应用于教育场景中的实用性和人文性,全方位地完善脑机接口支持学习情感识别的技术设计。且通常情况下,技术设计越完善,其产生技术风险的概率就越小。在接下来的研究中,应着重培养与发展脑机接口技术支持学习情感识别的技术创新力。
其次,要避免将技术“绝对化”,遏制对技术的盲目崇拜之风[47]。脑机接口技术是尚处于发展初期的高新技术,若在初步发展阶段就被人类“技术崇拜”,忽视其潜在的危害,不仅不利于技术的发展,反而会威胁到社会的稳定性。因此,人作为脑机接口技术的技术实现者和应用体验者,应正视人—技关系,树立技术风险意识,避免技术异化。
因此,为跨越脑机接口技术支持学习情感识别的技术鸿沟,应大力发展技术融合与创新,提升情感识别的精确度,增强应用系统在实际教育场景下的可操作性;同时,也勿要忽视人在技术更迭中的主体作用,树立起应对技术风险的防范意识。
2. 遵循伦理秩序,发展以人为本的技术设计
技术设计是功能性与价值性的统一。在进行脑机接口技术支持学习情感识别的研究时,应重视伦理价值,坚持以人为本,发展以人类伦理为导向的设计。在脑机接口技术支持下的学习情感识别研发与设计阶段,学习者是主要参与者。设计者应主动告知学习者技术应用的注意事项,了解并满足学习者的伦理诉求。同时,尽快确立明确的法律制度也是规避脑机接口伦理问题的重要措施。由于脑机接口技术属于新兴领域,法律制度的滞后性或为脑机接口技术相关人员的不当行为创造契机,或对脑机接口技术支持学习情感识别的研究对象造成隐私侵犯等危害。法律具有一定约束力,若该约束力缺失,脑机接口技术相关从业者和使用者都可以随心所欲地发展和使用脑机接口技术,不考虑使用前后可能造成的系列风险问题,或将造成人类信念崩塌,引发社会冲突。因此,在脑机接口技术应用于教育领域时,应明确大脑数据保护的法律措施,严格限制技术操控者对大脑数据的储存和分享。同时,应保障学习者全面知情权,确保学习者知悉技术应用的已知风险和潜在风险。
因此,学习者不仅是脑机接口技术支持学习情感识别的研究对象,更是伦理问题的直接相关者。研究者既要遵循以人为本的技术设计理念,更要明确自身的法律义务与责任,严格保障被试者的伦理价值。
3. 完善应用流程与设计,降低学习者的主观偏见
学习者作为脑机接口技术支持学习情感识别的研究对象,其产生的主观偏见会直接影响到学习情感识别结果的准确性。因此,相关可穿戴设备需提高其可操作性与便携性。首先,在学习者使用可穿戴设备进行信号采集之前,相关研究者应主动讲解学习者佩戴可穿戴设备的注意事项,并全面告知学习者在实验过程可能出现的各种突发情况,从而保障学习者在充分了解相关情况后主动选择参与接下来的实验过程。其次,取得学习者的知情同意后,在采集学习者情感信息的过程中,专业人员应给予全方位指导,保障操作流程的可行性与安全性,同时提高学习情感识别的效率。
相关脑机接口产品的外观设计也应适当改进。如,可以以耳机、眼镜、手表等学习者常见的穿戴设备为模型进行外观设计,在提高产品可操作性的同时,减轻使用者心理负担。此外,亦可针对不同年龄阶段的教育主体的心理特征与不同需求,进一步对相关设备进行外观优化。
脑机接口技术支持学习情感识别的应用场景可看作是以师生交互、生生交互和学习者自适应交互为主要导向的教育生态系统。因此,在此教育生态中,应以尊重学生和教师的主观诉求与学生的个性化培养为基本原则,增强相关技术的算法透明度,提高脑机接口支持学习情感识别应用的生态效力,以及应用系统的鲁棒性和灵活性,以求展现脑机接口支持学习情感识别在教育场景应用下的“生态原貌”。
[参考文献]
[1] 林崇德.心理学大辞典[M].上海:上海教育出版社,2003.
[2] 徐振国,张冠文,孟祥增,等.基于深度学习的学习者情感识别与应用[J].电化教育研究,2019,40(2):87-94.
[3] IMANI M, MONTAZER G A. A survey of emotion recognition methods with emphasis on E-Learning environments [J]. Journal of network and computer applications, 2019,147(C):102423.
[4] ESSAM H. Human emotion recognition from EEG-based brain-computer interface using machine learning: a comprehensive review [J]. Neural computing and applications, 2022(34):12527-12557.
[5] 蔣艳双,崔璨,刘嘉豪,等.教育领域中的情感计算技术:应用隐忧、生成机制与实践规约[J].中国电化教育,2022(5):91-98.
[6] MINSKY M. The society of mind [M]. New York: Simon and schuster,1986.
[7] BALAKRISHNAN V, LOK P Y, ABDUL RAHIM H. A semi-supervised approach in detecting sentiment and emotion based on digital payment reviews [J]. Journal of supercomputing, 2021,77(4):3795-3810.
[8] 张迎辉,林学誾.情感可以计算——情感计算综述[J].计算机科学,2008 (5):5-8.
[9] 杨捷鸿,焦学军,曹勇,等.多生理信号信息融合技术的情绪识别发展[J].生物医学工程研究,2021,40(4):420-427.
[10] LYUSIN D, OVSYANNIKOVA, V. Measuring two aspects of emotion recognition ability: accuracy vs. sensitivity[J]. Learning and individual differences,2016(52):129-136.
[11] 荆珊.情感脑机接口技术应用的伦理挑战与应对[J].自然辩证法研究,2021,37(9):35-41.
[12] 吴佼玥,李筱永.脑机接口技术视角下神经权利的逻辑生成和规范路径[J].残疾人研究,2022(2):44-53.
[13] 叶俊民,周进,李超.情感计算教育应用的多维透视[J].开放教育研究,2020,26(6):77-88.
[14] 陈国伟,张鹏洲,王婷,等.多模态情感分析综述[J].中国传媒大学学报(自然科学版),2022,29(2):70-78.
[15] BALTRUAITIS T, AHUJA C, MORENCY L P. Multimodal machine learning: a survey and taxonomy[J]. IEEE transactions on pattern analysis and machine intelligence,2018,41(2):423-443.
[16] TEWELL J, BIRD J, BUCHANAN G R. The heat is on: a temperature display for conveying affective feedback[C]//Proceedings Of the 2017 acm sigchi conference on human factors in computing systems(CHI'17), New York: Assoc comp machinery; ACM SIGCHI,2017.
[17] 刘清堂,李小娟,谢魁,等.多模态学习分析实证研究的发展与展望[J].电化教育研究,2022,43(1):71-78,85.
[18] SHU L, XIE J, YANG M, et al. A review of emotion recognition using physiological signals [J]. Scensors,2018,18(7):2074.
[19] 田元,周晓蕾,周幂,等. 学习情感分析方法研究综述[J].中国教育信息化,2021(22):1-6.
[20] 权学良,曾志刚,蒋建华,等.基于生理信号的情感计算研究综述[J].自动化学报,2021,47(8):1769-1784.
[21] STEINERT S, FRIEDRICH O. Wired emotions: ethical issues of affective brain-computer interfaces [J]. Science and engineering ethics,2020,26(1):351-367.
[22] MORGAN P T, KEHNE J H, SPRENGER K J, et al. Retrograde effects of triazolam and zolpidem on sleep-dependent motor learning in humans [J]. Journal of sleep research,2010,19(1):157-164.
[23] 朱洪洋.学习幻肢与神经全景敞视:脑机接口技术应用于教育的主要伦理挑战[J].电化教育研究,2020,41(5):39-44.
[24] 翟雪松,楚肖燕,王敏娟. 教育元宇宙:新一代互联网教育形态的创新与挑战[J].开放教育研究,2022,(1):34-42.
[25] COZOLINO L. The social neuroscience of education: optimizing attachment and learning in the classroom[M]. New York:W. W. Norton & Co,2013.
[26] 柯清超,王朋利.脑机接口技术教育应用的研究进展[J].中国电化教育,2019(10):14-22.
[27] MAYER R E. How can brain research inform academic learning and instruction?[J]. Educational psychology review,2017,29(4):835-846.
[28] 张丹,李佳蔚. 探索思维的力量:脑机接口研究现状与展望[J].科技导报,2017,35(9):62-67.
[29] SCHUPP H T, FLAISCH T, STOCKBURGER J, et al. Emotion and attention: event-related brain potential studies[J]. Progress in brain research,2006,156:31–51.
[30] AL-NAFJAN A,HOSNY M,AL-OHALI Y, et al. Review and classification of emotion recognition based on EEG brain-computer interface system research: a systematic review[J]. Applied science,2017,7(12):1239.
[31] VALENZA G, LANATA A, SCILINGO E P. The role of nonlinear dynamics in affective valence and arousal recognition[J]. IEEE transactions on affective computing, 2012,3(2):237-249.
[32] EKMAN P. An argument for basic emotions[J]. Cognition and emotion,1992,6(3-4):169-200.
[33] 王忠民,趙玉鹏,郑镕林,等.脑电信号情绪识别研究综述[J].计算机科学与探索,2022,16(4):760-774.
[34] RICCARDO M. Introduction to information visualization[M]. London:Springer, 2009.
[35] LEONY D, MUOZ-MERINO P J, PARDO A, et al. Provision of awareness of learners' emotions through visualizations in a computer interaction-based environment[J]. Expert systems with applications,2013,40(13):5093-5100.
[36] PEKRUN R. The control-value theory of achievement emotions: assumptions, corollaries, and implications for educational research and practice[J]. Educational psychology review,2006,18(4):315-341.
[37] ANDERS S, LOTZE M, ERB M, et al. Brain activity underlying emotional valence and arousal: a response-related fMRI study[J]. Human brain mapping,2004,23(4):200-209.
[38] 冯泽华.积极防控教育领域应用脑机接口技术的风险[N].中国社会科学报,2022-05-31(05).
[39] LANCE B J, KERICK S E. Barin-computer interface technologies in the coming decades[J]. Proceedings of the IEEE,2012(100):1585-1599.
[40] 中國人工智能发展联盟.脑机接口技术在医疗健康领域应用白皮书[DB/OL].(2021-07-10)[2022-09-22]. http://www.doc88.com/p-61361768187155.html.
[41] 程猛,阳科峰,宋文玉.“精准识别”的悖论及其意外后果——人脸情绪识别技术应用于大学课堂的冷思考[J].重庆高教研究,2021,9(6):78-86.
[42] HEBB D O. The organization of behavior a neuropsychological theory[M]. New York: Psychology Press,2002.
[43] 成伯清.当代情感体制的社会学探析[J].中国社会科学,2017,(5):83-101,207.
[44] 郑刚,杨雁茹,张汶军.生命价值与技术变革的现实“联姻”——基于人工智能教育应用的哲学审思[J].电化教育研究,2021,42(3):12-17,26.
[45] 周进,叶俊民,李超.多模态学习情感计算:动因、框架与建议[J].电化教育研究,2021,42(7):26-32,46.
[46] 翟雪松,楚肖燕,胡美如,等.从脑机接口到脑脑接口:认知传输与群体协同的教育变革[J].远程教育杂志,2022,40(3):24-34.
[47] 胡天力.人类自由的促进抑或机器统治的崛起——论脑机接口技术对自由意志的影响[J].自然辩证法研究,2021,37(10):29-35.
Application Framework of Brain-Computer Interface Technology to Support Learning Emotion Recognition and Its Reflection
ZHAO Li, LI Suqi, WANG Shuwen
(School of Education Science, Nanjing Normal University, Nanjing Jiangsu 210097)
[Abstract] Learning emotion recognition supported by artificial intelligence technology is crucial in education and can facilitate the improvement of teaching strategies. Brain-computer interface technology (BCI), as an important application of artificial intelligence, has become a hot issue in the field of emotion recognition. This paper analyses the motivation for the development of BCI technology to support learning emotion recognition, then constructs a framework for the application of BCI-supported learning emotion recognition that includes three stages: data processing, emotion expression and teaching moderation, and explores the limitations of BCI technology in learning emotion recognition, such as the technical gap, ethical challenges and learners' subjective bias. Finally, it is proposed that future BCI-supported learning emotion recognition can be improved by enhancing technology integration, developing human-centered design and respecting learners' subjective needs, which will ensure the feasibility of BCI-supported learning emotion recognition applications, and expand its applications and innovations in education by comprehensively measuring the state of learning.
[Keywords] Brain-computer Interface; Emotion Recognition; Artificial Intelligence; Learning Emotion; Teaching Regulation