句子理解中语言信息的整合加工机制
2020-12-28安徽工程大学黄邵娟苏涛黄敏唐雪梅
安徽工程大学 黄邵娟 苏涛 黄敏 唐雪梅
提 要: 句子理解过程是对语音、词汇、句法、语义层面语言信息的整合加工过程。分段式、并行式和一体式模型争论的核心在于语言信息加工的时间进程和交互作用。根据已有实验推测: 1) 语言信息在句子加工中起作用的方向很可能由其本身层次属性决定: 句法信息作用方向可能向后,语义信息作用方向可能向前;2) 语言信息在句子加工中起作用的强度也很有可能由其本身层次属性决定,但都还需进一步实验验证。语用层面信息加工过程的研究需要加强,实验材料为汉语的相关研究有待单独梳理。
1. 引言
句子理解的实时过程是怎样的,句子加工过程中人们是如何整合语音、词汇、句法、语义层面的语言信息的,加工这些信息的时间进程如何,迄今并没有达成共识。争论的核心在于: 句子理解中对不同层面语言信息的加工是有先有后,先独立加工再整合加工,还是同时进行,从一开始就交互作用;是涉及几套不同加工机制,还是一套不可分割的整体机制;各语言信息是一经获得即被使用,还是到需要时再被调用。目前国内外对句子加工过程的解释有三类主要观点: 一类观点认为对各层面语言信息的加工是分阶段进行的,如: 先进行句法加工,再进行语义加工,最后整合各种语言信息,完成整个句子的加工(Friederici, 2002; Bornkessel & Schlesewsky, 2006;等);另一类观点认为句子的加工是由至少两套并行机制完成的(比如一套机制负责句法加工,一套机制负责语义加工),并行机制之间不存在先后,从一开始就相互作用,同时对不同语言信息进行加工,达成对整个句子的理解(Hagoort, 2005; Kuperberg, 2007;等);第三类观点认为对各语言信息的加工涉及密不可分的整体机制,语音、词汇、句法、语义信息都是即时起作用的(Hagoort & Berkum, 2007; Brouwer, Fitz, & Hoeks, 2012;等)。
随着眼动、ERP、fMRI、近红外等技术手段的不断发展成熟,语言学界和心理学界对语言加工机制的研究不断深入,近年来句子加工的实时过程得到了实验证明。本文在概述句子中语言信息加工理论模型的基础上,对相关实验进行综述,以期从时间进程和交互作用两方面探索语言信息在句子理解中的整合模式,明确句子加工的神经机制。
2. 句子中语言信息加工的理论模型
2.1 分段式模型
分段式模型认为句子加工过程是分阶段进行的,句法信息、语义信息等加工是有时间先后之分的。分段式模型的代表人物主要有两位,一位是Friederici,另一位是Bornkessel。Friederici, Steinhauer和Frisch(1999)提出句法优先模型(syntax-first model),认为句法结构信息对整合过程的早期产生影响,句法加工在先,语义加工在后。Friederici(2002)在句法优先模型的基础上提出三阶段模型,认为句子加工由颞叶-前额叶脑区支持,句法结构构建在语义加工之前,句法加工与语义加工的交互作用只发生在后期,即句子加工过程分为三个阶段,第一阶段进行句法结构构建,第二阶段进行词汇语义信息和句法形态信息加工,第三阶段整合所有信息,达成对句子的解释。
分段式模型的另一代表人物Bornkessel提出扩展论元依赖模型(extended argument dependency model),认为句子理解的神经认知机制分为三个层次阶段(Bornkessel & Schlesewsky, 2006): 先是单纯的句法结构构建,不包含相关解释;再是对主题和突出关系进行参数解释,指派论元角色;最后整合信息和加工结果,进行合法性评价,完成论元解释,形成对句子的理解。三段式模型和扩展论元依赖模型都认为句法信息在句子加工过程中是最先起作用的。
2.2 并行式模型
并行式观点认为句子加工过程不存在先与后,不论是句法信息还是词汇、语义等信息都是同时加工的,语言信息是在至少两套并行神经系统中并行操作的。并行式观点否定了分段式关于句子加工第一阶段是句法加工的说法。其代表模型之一是由Hagoort(2005)提出的记忆整合控制模型(memory unification and control model),该模型认为语言理解的核心是记忆、整合、控制,人们从记忆中提取单词信息,整合成更大的单元,包括词汇构建在内的记忆过程和整合操作过程是同时进行的,整个加工过程是在语言的不同层面并行进行的;布洛卡及相邻脑区,尤其是左侧额下回在这一过程中起重要作用。
典型的并行式模型还包括非句法中心动力模型(non-syntactocentric dynamic model)和加工竞争模型(processing competition model)。非句法中心动力模型由Kuperberg(2007)提出,它认为语言理解涉及至少两套并行式加工机制: 语义加工机制和联合加工机制。语义加工机制基于语义记忆,联合加工机制受词语句法规则和语义主题制约。这两套加工机制同时存在,相互竞争、相互影响,对句子理解共同起作用。加工竞争模型由Kos等(2010)提出,它认为句子理解涉及的两套并行机制是句法加工流和语义加工流,来自句法加工的信息会影响语义加工流,来自语义加工的信息也会影响句法加工流,这两套机制交互作用,相互竞争,力量更强者对整个句子加工的影响更大。并行式观点的这两个模型都认为对语义信息的加工涉及一套神经机制,这套机制与加工其它层面语言信息的神经机制是并行存在的,相关操作是同时进行的,不同语言信息之间交互作用,并行机制之间相互影响。
并行式模型还包括Bornkessel-Schlesewsky和Schlesewsky(2013)提出的背腹加工流框架(dorsal-ventral stream framework),该框架认为句子理解是由两个并行的加工流实现的: 背流和腹流。腹流负责概念图式加工,创造逐渐复杂的听觉对象,腹流加工是一个时间独立的过程;背流负责整合包括句法结构在内的各要素,背流加工具有时间依赖性。背腹加工流框架是从脑区的角度构建的一个并行式模型框架,它将脑区与时间相关性结合,丰富了并行式模型的内容。
2.3 一体式模型
一体式模型认为句子加工既不是分段式的,也不是并行式的,而是一个不可分割的整体,是一体化的。一体式模型的典型代表是一步式模型(one-step model)。一步式模型(Hagoort & Berkum, 2007)认为上下文语境、世界知识等所有可用的信息都是立即被用来共同确定对句子的理解的,一步式模型强调各类信息都是即时、共同起作用的,句子理解过程是一步完成的,是来自更广的认知域的过程。布洛卡区在这一统一的过程中起重要作用。
一体式模型的另一典型代表是单流模型(single-stream model)。Brouwer等人(2012)把语言加工过程看作是一个单流过程,检索输出就是整合输入。检索即从长期记忆中检索词汇的句法属性和语义特征,整合即词汇信息与当前语义表征整合、更新形成新的表征,检索整合是双相一体化过程,涉及的是单加工流。该模型为句子加工过程提供了检索整合解释,指出语言整合过程其实就是心理表征的构建、重组、更新过程。
3. 句子中语言信息加工的实验证据
Uddin et al. (2018)认为语言信息能够促进话语的识别和理解,那么这种促进作用发生的时间进程如何?大脑如何整合语音、词汇、句法、语义层面语言信息以实现这种作用?不论是分段式或并行式模型支持者,还是一体式模型拥护者,都利用眼动、ERP、fMRI等不同技术手段做了深入研究。
3.1 不同层面语言信息加工的时间进程
有研究者认为不同层面的语言信息,在句子理解过程中加工的时间点不同,句法信息加工在先。王彭等(2017)研究汉语后续句的加工机制,指出汉语后续句中省略位置的句法加工诱发了N400,语义句法整合诱发了P600,该实验结果表明汉语句子理解过程中,句法信息加工在先,语义句法信息整合在后,支持分段式加工模型。然而,分段式观点支持者并不都认为句法信息加工在先,有实验结果表明句法信息和语义信息是同时加工的。Brink和Hagoort(2004)提出的级联模型(a cascaded model)在肯定分段式加工观点的同时,指出句法加工和语义加工是同时进行的。他们以三类含关键词的荷兰语口语句子为ERP实验材料: a语义句法一致;b语义句法不一致,但起始音素与关键词相同;c语义句法不一致,起始音素与关键词也不同。实验发现: 在150—250毫秒时间窗,在中后部脑区,与a条件和b条件相比,c条件诱发了波幅更大的N200成分,反映词汇选择过程困难;与a条件相比,b条件和c条件引发了波幅更大的N400(在300—500毫秒,在后部脑区观察到的负波,反映语义信息处理)、LAN(在270—470毫秒,在左前部脑区观察到的负波,与词类处理和形态合成处理有关)和P600(在700—1 000毫秒,在左后部脑区观察到的正波,反映句法信息加工),且b条件与c条件下的N400、LAN和P600波形不存在显著差异。该结果符合级联模型: 口语句子理解过程中的词汇识别首先是自下而上地激活一组候选词,然后是语义加工和句法加工同时进行,最后是对与声音输入相匹配的候选词进行整合。级联模型的实质是三段式,第一阶段词汇激活,第二阶段语义-句法加工,第三阶段整合。Brink和Hagoort认为语义加工和句法加工是同时进行的,而Friederici与王彭等人认为句法加工先于语义加工,该差异可能与Brink和Hagoort实验材料的设计中加入了语音因素有关,这很可能反映了语音信息对整合过程的影响。
并行式模型的支持者也用实验佐证了不同层面的语言信息是同时加工的。Yang, Perfetti和Liu(2010)以含关系从句的中文句子为实验材料,ERP实验发现: 在600—800毫秒时间窗,在中央顶叶区,主语提取关系小句(OSR)嵌入动词引发波幅更大的P600成分,该成分对短语结构敏感,说明加工OSR嵌入动词导致对该语境中与双及物动词结构关联的非首选短语进行重新解释;在250—500毫秒时间窗,在中央顶叶区,宾语提取关系小句(OOR)嵌入动词引发波幅更大的N400成分,该成分反映语义加工过程中的整合困难,说明OOR嵌入动词的语义加工导致对嵌入名词短语和某个基本信息层面介词意义的主题角色分配进行重新解释;以名词为中心词的宾语提取关系小句引发中央额叶区负波,反映意义派生和指称建立的联合作用。源定位分析(LORETA)发现: 结构映射和意义派生的整合过程中后脑具有优势,如: BA 22 /39 /19 /41 /42;句子加工后期左前额颞区被激活,如: BA 47 /38。该研究表明汉语句子理解涉及对语言输入层次组织敏感的神经网络,语义信息、句法信息等加工不仅时间上是同时进行的,而且涉及两套或以上并行操作的神经机制,该结果支持并行式模型。有些并行模式的支持者还认为同一层面的语言信息加工(如语义加工)也是并行式的。Huang, Wang, Jia, Mo和Chen(2013)采用EROS(the event-related optical signal)技术,发现与预期词相比,非预期词引发的N400和晚期正波的波幅更大;在128~192 ms范围内,左额后中回(LPMTG)、左侧额前下回(Lalfg)、左侧额中回(LMFG)被激活;在192~256 ms 之间,与非预期词相比,预期词在左前颞叶(LATL)有更明显激活。实验说明: 语义整合过程可能包含两套不同的机制: 一套是相对快速的瞬间整合过程,与左前颞叶相关,另一套是相对缓慢的持久整合过程,与左侧额前下回 /左侧额中回和左额后中回相关,这两套机制一起工作,以实现对整个句子的理解。证明语义信息加工本身就是一个并行式过程的还有张文嘉等(2015)的实验,他们使用中文语义合理句和中文语义违背句作为ERP实验材料,发现合理条件引发右侧脑区的P2效应,反映语义整合过程可能发生在250 ms之前;违背条件引发N400效应,该效应几乎覆盖整个脑区,反映P2和N400时间窗内进行语义加工可能涉及两套不同的机制,说明语义整合不是一个单一的加工过程,而是包含两个并行式通道的心理过程,这种语义整合双通道观点支持并行式模型。
一体式模型的支持者认为各语言信息一经获得即被使用,强调语言信息作用的即时性。Burmester, Spalek和Wartenburger(2014)探讨德语陈述句理解中的语言信息整合,离线理解判断结果显示: 话题相关信息有助于促进宾语-主语结构的陈述句的理解;在线ERP结果显示: 话题相关条件下,句首宾语处引发的晚期负成分波幅更小,反映了话题效应。表明与中性条件相比,话题相关能够促进句子的理解,该效应应归因于话题相关条件下,更新当前话语模型付出的加工努力更少,认为句子在线加工过程中,听者对话语信息进行即时整合,并即刻自动更新话语表征。Burmester等人的实验是以德语句子为语料的,Xu et al. (2015)用五个词构成的中文句子做实验也获得了类似的结果: 语言信息即时制约句子加工。Xu等人通过加入语言语境信息使百科违例变得可接受,以研究被试对语言信息的加工过程,ERP实验发现: 含百科知识违反的关键词引发的N400受语义是否一致调节;尾词引发的负波反映了关键词与百科知识的即时整合;语义不一致条件下,尾词引发更负的波,很可能反映了全局语境整合。该实验说明新的后续语言信息会即时影响之前的百科制约,从而影响中文句子的理解过程。
3.2 不同层面语言信息的作用方向
那么,被瞬间整合的语言信息是如何影响句子理解的,是只对后续的语言信息输入产生影响(方向向后),还是只对先前语言信息加工的结果产生影响(方向向前),抑或两者兼有?研究者们用实验数据给出了不同意见。一种意见是: 语言信息的作用是向后的,往后影响后续信息加工。Kaan, Kirkham和Wijnen(2016)以含省略结构的句子为语料,每个句子有两个分句组成,第二个分句中所有格之后是否允许出现名词省略由第一个分句的结构决定。也就是说,第一个分句提供的句法信息决定了第二个分句所有格中的名词是否能够省略。实验要求被试完成数字广度测验(Digit Span Task)和Stroop任务。实验发现: 介词出现后的400 ms,在非语法性非省略条件出现更大的晚期正波,表明被试对句法语境敏感,句法信息的出现会影响句子加工后期的整合或修复过程。作用向后的证据还有Ding, Wang和Yang(2015)的实验,他们采用2×2设计(情绪动词、中性动词;作动词宾语的中性名词正字法正确、作动词宾语的中性名词正字法错误),ERP实验发现: 情绪动词条件下,名词正误诱发LPC效应;与中性动词相比,情绪动词引发的N1、P2、N400波幅更大,该结果表明情绪信息的出现对后续词汇正字法分析产生影响,情绪信息对句子加工过程的作用方向向后。另一种意见是: 语言信息的作用不分向前向后,范围辐射整个句子,是整个句子加工的核心力量。于亮等(2017)以四类汉语句子(给予义双宾句、取得义双宾句、二价动词构成的双宾句、二价动词构成的主谓宾句)为实验材料,ERP数据显示: 句中动词引发N400效应,说明动词一出现,与该动词相关的论元结构配置和语义框架信息被激活;句末词引发LPC效应,反映语言加工后期的整合修复过程。该研究结果表明: 动词的出现会激活各种词汇信息,从而影响整个句子的加工;汉语句子加工过程中,动词信息起着主导作用,对整个句子的加工产生影响。对语言信息作用方向的意见不一致很可能是由实验材料的设计不同导致的: Kaan等人选取的是句法信息,Ding等人选取的情绪动词也涉及到动词宾语相关句法信息,他们的实验结果都是方向向后;于亮等人的实验材料中既包含与句法信息密切相关的双宾句和主谓宾句,也包含与语义信息密切相关的给予义和取得义,实验结果是方向既向后又向前,作用范围辐射整个句子。因此,我们推测语言信息的作用方向很可能由其本身层次属性决定: 句法信息作用方向向后,语义信息作用方向向前。
3.3 不同层面语言信息之间的交互作用
在句子加工过程中,不同语言信息之间是存在认知分离还是会产生相互作用?目前存在独立的模块局域论和自下而上-自上而下的互动分析论两种观点(李琳等,2017)。大量实验证明不同层次的语言信息确实存在互动作用,比如Liu, Zhang & Liu(2017)探究含多音字的中文句子的加工机制时,发现语音违例诱发P200效应,说明语音信息的作用发生在加工的早期阶段;同时发现语音违例语义合理条件引发N400效应,说明语音信息对语义信息加工有调节作用。任桂琴等(2012)的眼动实验也说明了语音信息对语义信息会产生影响,他们认为在高限制性条件下,汉语词形和词音信息在词汇通达晚期都对语义整合起重要作用;在低限制性条件下,汉语语音信息对语义整合起重要作用。不仅语音和语义层面存在交互作用,其它层面也存在交互作用。在话题结构中,话题结构信息对代词回指的制约作用大于动词语义信息对代词回指的制约作用;在非话题结构中,句法结构信息和动词语义信息共同决定代词所指(徐晓东,陈丽娟和倪传斌,2017)。Kuperberg提出的动态生成框架中,句法信息与语义信息联合作用,共同达成对句子的理解(Kuperberg, 2016)。
还有研究者发现同一层面内的语言信息也会发生相互作用。Shen, Li和Pollatsek(2018)的眼动实验研究句子语境中两字复合词的加工,发现与主要义条件相比,次要义条件下的注视时间更长;语义相关条件下该效应明显,语义不相关条件下该效应消失,表明汉语词义通达受词素义的影响,说明语义内部层面之间存在相互影响。除了语义层面,句法层面内各信息也会互相影响。Isel和Kail(2018)的ERP实验发现法语句子加工过程中词法整合受句法信息的位置和复杂程度调节,说明句法单元内部各要素之间存在相互影响。还有研究者进一步指出句法层面内各信息相互影响发生在句子加工后期。Suckow和Gompel(2018)的眼动实验发现与单数条件相比,复数条件下的歧义句加工更费时,而加工非歧义句时不存在这一差异,该实验表明单复数影响句法修正过程,说明句法信息对句法加工起作用且作用发生在句子加工后期的修正过程。
有研究者发现不同层面语言信息之间的相互作用不是一开始就存在的,而是各语言信息先独立起作用,然后再相互影响、共同起作用。王小艳等(2013)以中文把字句为ERP语料,发现句法违背句引发ELAN和P600,语义违背句引发N400;句法语义双违背句引发ELAN和N400,没有引发P600,且与语义违背句相比,双违背句的N400效应更显著。该结果表明中文把字句的加工过程是分段式整合过程: 早期是句法构建,在这一阶段,句法加工和语义加工是独立的;稍后是语义整合阶段,这一阶段句法加工和语义加工开始相互影响;晚期是最终的整合阶段,达成汉语把字句的理解。王路明(2017)也认为句子加工是分阶段的,早期阶段,句法加工是独立的,不存在语义依存;生命性和话题语境在句子加工后期开始起作用。王小艳等人以及王路明的实验都是要求被试完成按键判断任务,有其局限性,按键动作本身对大脑反应时间有影响,因此需要采用不同技术手段、不同实验设计得到的多种数据以进行佐证和补充。
在交互过程中,各层面语言信息所起的作用是相当的,还是有强有弱的?是否存在某一个层面(比如句法)信息对整个句子加工所起的作用最强,另一个层面(比如语音)信息作用最弱?有研究者做了初步回答: Chrabaszc(2017)让俄语母语被试完成自定步速听力任务,发现句法类信息的作用最强,语义类其次,语音类作用最弱;让同一组被试完成词汇判断任务,发现歧义句解歧过程语义信息比句法和语音信息的作用更强。Chrabaszcz本人认为实验结果差异的原因是实验任务不同,另一原因很可能被忽视: 实验材料的设计不完全相同。虽然两个任务的句子目标词相同,但它们的位置不同。自定步速听力任务的目标词位于句中,而词汇判断任务的目标词位于句末,这很可能是导致结果差异的重要原因。
4. 结语
句子理解过程中,语音、词汇、句法、语义信息加工的相关实验及研究已取得一些成果,但仍有几个问题值得研究者关注:
一、 现有研究探讨了词汇、句法、语义信息加工的时间进程和交互作用,但对语言信息在交互过程中起作用的强度尚不能给出明确解释;根据现有研究,我们对语言信息在句子加工过程中起作用的方向虽做出了初步推测,但还需进一步实验验证。
二、 以往的实验材料设计不够严谨,Chrabaszcz(2017)的实验材料可能因为目标词在句中的位置不同,而使语音和语义信息在句子加工中所起作用的强度受到句法信息作用的干扰;Brink和Hagoort(2004)的实验材料可能因为添加了语音因素,而使对句法和语义层面信息的考察结果有待商榷;王彭、张珊珊和江火(2017)的研究可能因为使用了汉语实验材料,而与使用荷兰语实验材料的Brink和Hagoort(2004)的研究结果不一致。汉语不同于印欧语言,其语言学特性,尤其是句法特性,可能会调整句法与语义加工交互作用的认知神经机制(蔡林、张亚旭,2014),汉语句子理解中语义加工可能具有更高水平的独立性,对词类加工的依赖程度更低(张亚旭等,2011)。本文讨论的实验既有汉语实验,也有德语、英语、荷兰语、法语、俄语实验,有必要进一步讨论汉语句子理解过程中语音、词汇、句法、语义信息的加工模式。
三、 语言是社会交际的工具,实际生活中,大脑加工的语言是交际中的语言。人们对句子的理解不仅是对句子意义、字面意义的理解,而且是结合交际语境,对语用意义、话语意义的理解。目前,已有研究证明语用层面的语言信息是即时起作用的(Hunt et al., 2013),且语用信息的加工并不是简单地单独受刺激驱动的过程,而是会与语义信息发生相互作用、协同增效的过程(Caiani & Ferretti, 2017)。语用层面信息涉及到语法修辞、文化背景、社会地位等因素,探究大脑对“此人此地此时用此句是此意”的加工过程是一项十分复杂的课题,因此,有必要加深句子理解中语用信息加工过程的研究。