时间语义加工中内隐空间图式的激活机制*
2021-03-17暨南大学裴霜霜
暨南大学 裴霜霜
提 要: 本研究采用实验方法考察时间语义理解中内隐空间图式的激活,借此探讨感知运动经验在抽象语义加工中的作用。实验发现,时间语义加工会激活左右空间编码,引起注意力向时空隐喻映射一致的方向转移(左/早,右/晚)。过去时间引起注意力向左转移,促进左侧目标的识别,未来时间引起注意力向右转移,促进左侧目标的识别。实验表明,时间语义加工会引发空间概念模拟,这为抽象语言理解的“符号接地”问题提供了证据支持。
1. 引言
语义加工指大脑提取、重建和理解概念意义的过程,大脑如何加工抽象语义一直是认知语言学关注的热点问题。“模拟语义学”认为,语义加工具有涉身性,语言理解会激活标识概念意义的感觉、运动、社会和情感知识,发生概念模拟 (Lakoff, 2008)。以往研究在具体语义加工涉身性上取得了一致观点,但在抽象语义加工涉身性问题上却无法达成共识。由于抽象概念没有明确外部指称,不能通过视、听等感觉通道直接获得,其语义加工是否一定要激活感觉运动经验,经验信息在抽象语义加工中扮演什么样的角色,这些问题尚未得到明确回答。本研究以汉语时间词为例,通过心理实验考察时间语义加工中内隐空间图式的激活,借此探讨时间语义加工是否涉及空间模拟,探析低水平感知觉经验在高水平认知能力中的参与机制。
2. 研究背景
“涉身认知理论”认为,概念认知不能独立于身体和外部环境,而是以感觉运动经验为基础的。概念加工也受感觉运动影响,高级认知活动的加工是对低级感觉、运动、情感经验的模拟(Barsalou, 1999, 2008, 2009;张恩涛等,2013;殷 融等,2013)。在涉身认知框架下,Lakoff(2008)提出了“模拟语义学”理论,对感觉经验在语义加工中的作用做了进一步阐述。理论认为,语言也植根于知觉运动经验,人们用语言符号指称身体体验,体验获得的概念意义内化为语义的一部分。当语言形成并脱离原来环境时,人们会激活语言形成时经历的体验来重现当时情境,语言加工就是对语言指称内容的想象和心理模拟,这是人们掌握语义的基础(Bergen, 2007; Feldman, 2006; Zwaan, 2014)。
现有研究对具体语义加工的涉身性观点较为一致,但对抽象语义加工是否激活感觉运动经验则一直存在争议。抽象语义加工是否需要感觉运动经验的参与,参与机制如何,学界存在截然不同的观点。以时间语义的空间性建构为例,研究者就提出隐喻建构“强势观”和“弱势观”两种假说。“强势观”认为,抽象概念的理解必须激活它赖以建构的具体语义域,共同关系维度的激活是联系概念意义和具体维度的关键。空间图式为时间表征提供了关系结构,但空间关系并不存储在时间概念域中,因此,时间加工不仅要通达情景中的时间成分,还要激活建构这些成分必须的空间图式(Murphy, 1996;张恩涛等, 2013)。“弱势观” 则认为,抽象概念的理解受概念映射的影响,理解隐喻时,概念隐喻可以通达,但并不一定自动激活。随着时空隐喻的频繁使用,隐喻映射在语义域间建立并形成独立表征,时空映射存储在时间语义域中。为避免消耗更多的认知资源,理解时间时不需要每次都激活空间图式(Boroditsky, 2000;Murphy, 1996)。
为证明空间图式在时间语义加工中的必要性,心理语言学家进行了很多实证研究,但结果极不一致,尤其是时间语义加工中空间图式激活的心理机制,学界一直争论不休。“时空一致性”研究发现,不同空间启动会改变人们理解时间的方式和加工时间的速度。当反应编码和时间指称对应与时空映射一致时(过去时间用左键反应,未来时间用右键反应),时间判断受到促进,反应速度加快(Aguirre & Santiago, 2017; Santiago, 2007; Ulrich & Maienborn, 2010;顾艳艳、张志杰,2012)。即使实验未要求被试关注空间信息或做出空间反应,被试仍会自动运用空间概念建构时间(Boroditsky, 2000; Boroditsky & Ramscar, 2002)。研究者认为,时间加工中空间信息的激活是自动的、非策略性和必要的,图式激活发生在时间语义加工的早期感知阶段。时间语义加工激活了内隐于时间语义中的空间图式,引起注意力转移,当转移方向与外部空间匹配时,时空兼容效应产生,这就是“注意力转移假说”(Nicoletti & Umilta, 1994; Notebaert, Soetens & Melis, 2001)。但也有研究者对此提出质疑,他们认为,感觉运动信息的激活不是必要、自动的,而是由任务要求引起。时空兼容效应来源于反应选择竞争:“时空一致性”任务凸显了空间维度,从下到上的空间反应编码激活了空间信息,被试注意到时空联系,从而产生判断偏好。这一观点对空间图式的自动激活提出了挑战,认为图式激活仅发生在时间理解的按键选择阶段,不在语义加工阶段(Weger & Prattt, 2004;Keus & Schwarz, 2005;Quellet et al., 2010; Thornton et al., 2012)。
研究者试图对图式激活的发生机制进行区分,但实验结果极不一致,无法明确回答上述问题。Weger & Pratt(2008)以屏幕中央呈现的时间词为启动线索,考察时间加工对空间图式的启动作用。实验发现,启动线索后以左右键对目标出现位置进行识别时,时空兼容效应产生,过去时间促进了左侧目标识别,未来时间促进了右侧目标识别,而以空格键对目标进行识别时效应消失。这似乎表明,只有实验任务明确要求以左右键对实验刺激作出反应时,时间语义加工才会启动空间图式,时空兼容效应是由按键选择引发的。而Quellet 等(2010)采用镶嵌空间Stroop任务,则得出完全不同的结论。实验以中央呈现的时间词作为启动线索,以左右键对不同位置的箭头方向进行识别。实验发现,即使不要求被试做时间指称判断,时间词仍与空间位置发生交互作用。这表明,时间与空间位置的交互作用不是由按键反应引起,而是由空间图式的自动激活引起。由于上述研究采用的实验范式、实验任务、实验语料并不统一,实验结果的差异可能是由实验设计的差异引起。
要确定时间语义加工是否激活内隐空间图式,我们必须克服时间语义与空间编码的直接联系,在非刻意语义加工情况下观察时空兼容效应。前人研究发现,方向词(如“左、右”)和出现在不同空间位置的词(如月亮、地面)的非刻意加工都会引起注意力向符号暗示方向转移(Posner, Snyder, & Davidson, 1980; Hommel et al, 2001),通过隐喻获得空间关系的抽象词(如“高兴、低落”)也会引起注意力转移(Weger & Pratt, 2008; Zanolie et al., 2012)。这表明,如果词汇通过隐喻化与空间编码建立联系,那么即使词汇本身没有方向预测性,语义加工也会根据隐喻意义引起注意力空间转移。由此推断,如果时间语义激活内隐空间图式,则时间加工会根据隐喻映射影响注意力分配,产生相似注意力效应。
基于文献综述和现有问题,本研究将考察非刻意语义加工情况下时间语义理解中的空间图式激活,进一步明确抽象语义加工中感知觉经验的参与机制。由于研究争议主要集中在左右空间在时间语义加工中的作用上,因此本研究仍聚焦左右空间图式,研究对象为汉语。语料研究没有在汉语中发现左右时间表征的例子,但实验发现左右心理时间线的存在(顾艳艳、张志杰 2012)。如果汉语时间语义加工激活左右空间编码,则我们可以证明时间语义加工确实涉及空间体验的参与,这种时空联结是超越语言存在于心理层面的。
3. 研究方法
1) 实验设计
实验采用时间线索启动范式,考察不同时空对应条件下时间指称判定对空间判定的影响。实验以“时空一致性效应”为逻辑基础,通过时空加工的相互影响来推断时空心理联结。实验任务为“时间早晚判断任务”和“空间位置识别任务”,时间词为启动线索,实验要求被试对时间词后出现在不同位置的白点进行判断。实验为双因素被试内重复实验设计: 2(时间指称: 过去时间/未来时间)×2(目标位置: 左/右)。自变量为时间指称和目标的空间位置,因变量为目标位置判断的反应时和正确率。实验操纵目标刺激的左右位置,空间位置与时间判定任务无关。空间位置与时间指称有两种对应关系,一致条件和不一致条件。一致条件下,白点出现位置与时空隐喻映射方向一致,过去/左,未来/右,过去时间后白点出现在左屏,未来时间判断后白点出现在右屏;不一致条件下,白点出现位置与时空隐喻映射方向不一致,过去/右,未来/左: 过去时间后白点出现在右屏,未来时间后白点出现在左屏。实验搜集两种条件下被试的反应速度和正确率,并对其进行比较。如果时间语义加工激活左右空间图式,那么空间图式可能引起注意力向时空映射一致的方向转移。判断“过去时间”时注意力向左转移,“将来时间”时注意力向右转移。如果目标刺激出现位置与注意力转移方向一致,则判断速度较快,不一致时,判断速度较慢。
2) 实验被试
实验被试为广州某大学在校本科生30人(男 13 人,女17人),年龄在18—21 岁(平均年龄=20,年龄标准差1.3),被试均为汉语本族语者。右利手,裸眼视力或矫正视力正常,阅读习惯为从左到右。被试自愿参加实验,实验后得到少量报酬或小礼物。
3) 实验材料
实验采用视觉语言刺激,研究材料为25组汉语时间词,一半表示过去时间,如“昨天、过去”,一半表示未来时间,如“明天、将来”,时间跨度从天到年不等。所有词都以静止的人作为参照点,人所在位置表示现在。实验材料参考Torralbo等(2006)、黄希庭等(1998)中的部分时间词,同时经头脑风暴获得,剔除带有空间词的时间词如“日后,今后”。将时间词制成量表,请20名学生做时间指称判定(1. 过去,2. 现在,3. 将来,4. 不清楚),剔除了有歧义和不易分辨的词。另请20名学生做熟悉性7点评定(1. 完全不熟悉,7. 非常熟悉),剔除熟悉性低于3的材料,最终得到了50个时间词。时间词的频率参考《现代汉语常用词词频词典》(刘源等 1990),过去时间词和未来时间词在词频上匹配,所有时间词词长相同。
图1. 实验程序
4) 实验程序
实验采用E-prime编写程序并搜集数据。被试坐在一间安静的屋子中,眼睛距屏幕60厘米。屏幕中心首先出现注视点500毫秒,然后呈现过去或未来时间线索600毫秒,字号courier New 35pt。实验要求被试判断时间指称并记住这个词,但不需做按键反应。刺激消失后注视点再次出现,刺激与注视点的时间间隔为300、400或500毫秒,以防止被试对目标有所准备。之后目标白点(courier New 34p, 4mm, 0.2°)在注视点的左侧或右侧闪现50毫秒,白点消失后注视点在屏幕上保持1950ms,从目标出现到注视点消失,被试有2秒钟时间做出反应。实验要求被试快速对白点位置做出判断,如果白点出现在左屏则左手按“Z”键,出现在右屏右手按“M”键。程序记录到被试反应后注视点消失,出现500毫秒空屏,进入下一试次(图1)。实验在联想笔记本thinkpad上完成。
每种条件下,被试完成12次练习,3对时间词。正式实验22对时间词,每词随机呈现4次,共176试次,其中88次为一致条件,88次为不一致条件。白点位置随机选择但相互平衡,实验没有告知被试时间词与空间位置的关系。整个实验约持续25分钟,一半受试先做一致条件,再做不一致条件,另一半受试先做不一致条件,再做一致条件。实验在指导语阶段特别强调了阅读线索词的重要性,并要求被试在实验结束后回忆刚才看到过的时间词。
5) 数据分析与结果
实验记录了目标位置识别的正确试次和反应时。正确试次中反应时明显高于平均反应时的试次被视为异常值剔除(高于整体反应时的3个标准差)。30名被试中,15名被试按一致-不一致顺序完成实验,15名被试按不一致-一致顺序完成实验。剔除异常值后的反应时和正确率数据进行了 2(时间指称: 过去/未来)×2(目标空间位置: 左/右) 重复方差分析。
反应时分析发现(表1,图2),时间线索主效应不显著(F(1,1)=0.646, p >0.05),被试对过去和未来时间后的目标位置判读速度一致。目标位置主效应也不显著F(1,1)=0.038 p >0.05), 被试对左屏和右屏目标判断速度相当。但是,实验发现时间指称与空间位置间的交互作用,时间指称和按键位置间存在显著交互效应(F(1,29)=18.455, p<0.01)。一致条件下,被试的反应时间显著快过不一致条件。当过去时间为启动线索时,被试对左屏目标反应更快(过去/左: 271.7 ms.; 过去/右: 286.2 ms.)。未来时间作启动线索时,被试对右屏目标反应更快(未来/右: 274.0 ms; 未来/左: 287.3 ms)。
表1. 不同对应条件下空间位置判断的反应时(毫秒)和正确率(次)
图2. 一致和不一致条件下反应时对比(毫秒)
图3. 一致和不一致条件下正确率对比(次)
正确试次数据也同样出现显著效应(图3)。时间指称的主效应显著(F(1,1)=39.545 p<0.01)。 被试对未来时间启动线索后的目标识别更准确,这可能是由刺激词的词频差异引起的,虽然过去词和未来词在词频上没有显著差异,但未来词的词频比过去词稍低。目标的屏幕位置主效应不显著,被试对左右屏目标的识别准确率没有显著差别(F(1,1)=0.374 p>0.5)。实验发现时间指称与目标位置间存在显著交互效应(F(1,29)=60.514 p<0.01),一致条件下,目标识别正确率显著高过不一致条件下,被试在刺激位置与假设时间心理线对应一致时,发生的错误更少。
4. 讨论
实验成功发现了时间指称意义与空间位置间的交互效应,被试对空间位置的判断显著受时间暗含空间信息的影响。与时空概念映射一致,当目标位置与时间暗含的空间信息匹配时(过去/左,未来/右),目标识别速度更快、更准确。由于时间刺激呈现在屏幕中央,刺激摆放位置不包含左右空间信息,时间指称判断任务也与目标位置无关,因此不存在任务引起的按键选择偏好。我们由此推断,一致性效应是由空间图式的激活引起的,时间语义加工启动了左右空间图式,并引起注意力在左右轴线上发生转移。当目标位置与注意力转移方向一致时,出现促进效应,不一致时出现抑制效应。这一发现与Quellet 等(2010)对西班牙语和Weger & Pratt(2008)对非语言刺激的研究发现一致。研究也与其他抽象概念如情感和权利词加工研究的结果一致(Meier & Robinson, 2004; Zanolie et al., 2012)。
本研究为空间图式在时间加工中的作用提供了进一步证据支持。实验结果表明,即使实验任务不涉及任何空间需求,时间语义还是同时了激活左右空间信息,促进空间位置的识别。这表明,通过隐喻化获得空间信息的抽象时间词与空间词汇类似,会在加工中激活内隐空间图式。通过隐喻映射获得空间关系并完成语义建构成后,时间语义仍与空间源域保持着紧密的联系,人们需要、或至少部分需要空间信息来理解时间。研究为时间语义加工涉及空间体验的参与提供了新的佐证,结果支持“强势说”假设。
另外,本研究结果也为空间图式激活的发生阶段问题提供了有益启示。由于研究仅要求被试阅读时间词,不需要对时间指称做按键做选择反应,因此语义加工与目标位置间发生的交互作用无法用空间的策略性使用解释,不支持“按键反应假说”。但是我们也注意到,本研究虽然不要求被试对时间词进行外显反应,但最终测量的行为指标(反应时和正确率)是基于位置判断的,且在时间词之后出现,因此,尚无法分辨语义空间信息激活是发生在加工早期还是晚期阶段。一种可行的办法是通过时间敏感度更高(以毫秒为单位)的ERPs(脑电技术)监测实时语义加工的时间进程,进一步判定激活的发生阶段。未来研究可通过ERPs技术监测时间加工中不同时间节点脑电波幅的变化,为这一问题提供更有力的证据。
总体来说,本研究进一步揭示了时间语义的加工过程和加工本质,时间语义加工需要通过隐喻获得的内隐空间图式的参与。研究不仅丰富了抽象语义加工理论,还有助于解释抽象语义“从哪里来”、“如何来”及“怎样理解”的问题。本研究表明,空间神经模拟是理解时间语义的重要手段,这一模拟反映了抽象语言理解的涉身性和人类认知的“渗透性”。低水平感觉运动经验为高水平语言认知提供了认知基础,同时语言理解也离不开感觉运动经验,要通过感觉运动神经模拟来实现。抽象语言理解不是封闭于大脑的纯智能行为,也不是仅以知识表征为基础的非模态符号计算过程,而是涉及或部分涉及感觉运动体验的再现。这一发现为抽象语义的来源提供了合理解释,也为抽象语言理解的“符号接地(symbolic grounding)”问题提供了证据支持。
那么内隐空间图式激活的认知机制如何?我们认为,空间图式模拟是时空一致性效应产生的根本原因。根据“模拟语义学”理论,知觉运动加工过程中(如烹饪),感觉运动信息(切、洗、煮)被知觉系统捕捉,形成基本概念图式,成为概念意义的一部分。与体验相关的知觉符号组成模拟器,后期线下加工感觉运动信息时,大脑会启动模拟器,再次激活知觉系统中的信息,发生情境模拟(Barsalou, 1999, 2008; Lakoff, 2008)。同样,语言理解也包含感知运动信息的再现,在概念向语言转化的过程中,感觉运动信息内化为概念的语义信息,加工语言时,大脑就会自动、潜意识激活感觉运动信息模拟器,启动先前存储的体验信息和存储体验信息的脑结构,发生概念模拟。如理解“吃饭”一词时,大脑会自动激活实施吃饭动作时的感知运动神经状态,如张口、咬、咀嚼、吞咽等,发生神经模拟(Lakoff, 2008)。与此相似,抽象语义理解会激活构建抽象语义的具体概念图式。抽象语义通过隐喻映射由具体概念构建,因此抽象语义不仅包括认知表征,还包括与感觉运动经验相关的神经结构和感觉适应性趋势。经隐喻建构形成的抽象语义与源域仍保持紧密联系,具体概念结构成为抽象概念的内在逻辑,内隐于抽象语义中。在抽象语义加工中,与具体概念相关的感觉运动经验得到激活,发生具体图式模拟(Landau, Meier, & Keefer, 2010;张恩涛等, 2013;殷 融等, 2013)。同样,时空概念间也存在这种语义和神经联结。当人们同时经历时间和空间体验(如行走距离越长时间越久),空间特征和空间关系被选择性地投射到时间范畴上,分管时空概念的神经元间形成固定映射,时空概念形成共同的神经基础(Turner & Fauconnier, 1995)。时空概念共享一套位顶叶皮层(parietal cortex)的公共神经回路(Walsh, 2003),时空加工都会激活右顶叶皮质、侧顶内区、左顶叶皮质、小脑、前额等位置的大脑皮层(Assmusetal.,2005; Assmus et al.,2003; Oliveri et al., 2009; Oliveri, Koch et al., 2009; Parkinson et al., 2014)。由于时空隐喻和共同神经回路的存在,时间语义加工时,主管时间和空间概念的同一脑区被激活,内隐于时间语义域的空间图式得到启动并即时引入时间域,用于理解时间,空间关系和空间结构发生再现。值得注意的是,这一模拟不是实体模拟,而是神经模拟,人们并未真正在空间内移动,而是在头脑中想象空间关系,并借用空间关系来理解时序概念。
5. 结语
本研究对时间语义加工中空间图式的激活问题进行了研究,研究表明,时间语义加工会同时激活左右空间图式,引起注意力空间转移,这为空间体验参与时间语义加工提供了证据支持。本研究未回答空间模拟的自动化问题,Gibbs(2006)认为,具体概念模拟是自动、无意识和前反射的,这一论断尚缺乏实验证据支持,未来研究可关注潜意识状态下抽象语义的加工,对此问题做进一步探讨。