社会认知框架在二语听力测试研究中的理论建设和实施路径探索
2022-11-15孙桐
孙桐
“社会认知框架(socio-cognitive validity framework,以下简称SCF)”亦称“社会认知效度框架”,是Weir基于Messick 的整体效度观提出的语言测试效验模式[1,2],为各类语言测试的设计开发和质量评估,提供了一种颇具影响力的理论范式。SCF 的“社会认知”理念采用社会建构主义(social constructivism)的语言学习观[3,4],设立了6 种效度证据,并针对听说读写技能建立了各自的框架。自提出至今,SCF 凭借清晰合理的结构和良好的实用性,在理论和实践上取得了稳步发展。
在听力测试方面,Geranapyeh 和Taylor①Examining Listening 这一著作由剑桥大学出版社于2013 年出版,2019 年由外研社引进国内,为我国二语听力测试的研究提供参考。对Weir的听力框架进行了全面改良,使其细节上更加科学合理、与时俱进,进而使该框架近年来在听力测试的研究中更受重视[5]。基于此,当前有两个问题尚需明确:(1)新版SCF 听力框架及相关研究有何特色和不足之处?(2)该框架在理论创新和实践应用方面的发展前景如何?为探索这些问题,本文将对SCF 创立的时代背景、发展历程和重要特色进行回顾与总结,并围绕二语听力技能,介绍新版听力框架的理论构造、相关研究和现存问题,展望相关听力测试研究在理论建构和实践应用方面的发展前景。
一、社会认知框架
(一)创立、发展和改进
源于欧洲的SCF 秉承“社会认知主义(sociocognitive)”理念,在Messick 整体效度观的基础上设立。该框架采用“技术主义(technicalism)”的效验模式,可对听说读写测试的效度进行有针对性的检验和评价。
1. 时代背景
作为语言测评界颇具影响力的效度验证框架,SCF 的创立和发展离不开语言测试及其相关领域的进步和发展。Weir框架的初创离不开四个重要因素的影响,其理论基础和主要结构皆体现出对下列问题的借鉴和考量:(1)“社会认知主义”理念的兴起;(2)CEFR(The Common European Framework of Reference for Languages,欧洲共同语言参考标准)与SCF 在理论和实践上相辅相成的关系;(3)整体效度观的影响;(4)清单检验式“技术主义”效度验证模式的广泛应用。
“社会认知主义(socio-cognitive approach)”大约在20世纪90年代开始,逐渐在多个人文社科领域①除语言测试外,还包括人类学、二语习得、社会语言学、认知心理学等诸多学科,Atkinson 于2002发表的论文对10个学科的文献进行了详细梳理(539页),本文不再赘述。中被直接或间接提及[6],是一种兼容并包的理念和视角,兼顾“社会”和“认知”两个维度。作为“规律系统”,两者既各自独立,又紧密关联。“社会”视角从“人的外部”出发,探索人际交往和社会互动的问题;“认知”视角从“人的内部”出发,研究意识和思维的问题[6-8]。建构主义(constructivism)理论是在该理念的影响下产生的,认为学习过程并非知识的被动接受,而是通过学习者与外界互动,不断调整认知结构,更新心理表征的动态循环[9,10]。社会建构主义是该理论的分支,特别强调个体在学习过程中与真实社会环境的互动[10,11],在应用语言学诸多领域中广受接纳和借鉴。SCF 就是在借鉴社会建构主义核心理念的基础上创建的[3,4]。这一理念集中体现在对考前效度证据的分类和描述上。Weir在初创的框架中将这类证据分为理论关联效度②这一概念在Weir后来的著作Examining Writing中更名为“认知效度”。、语境效度和考生特征③主要考量与测试相关的考生身体/生理因素、心理因素和社会经验因素。三个方面,清晰地展现了其“社会认知”的双重视角[1]。
SCF 还是正规教育体系中不可或缺的部分,与CEFR 的创立和改进关联紧密,相辅相成。理论上,SCF 和CEFR 都以社会建构主义为基础,从社会认知的视角界定和审视语言能力[3,4]。实践上,CEFR针对听说读写四种技能设定的六级标准(A1-C2)[12],是剑桥英语测试(如MSE④剑桥通用五级证书考试(Main Suite Examinations,简称MSE)。、IELTS)设计开发中构念界定的参考,而SCF 则是这些测试配套的效度验证和评价检验的重要工具。一方面,CEFR 为标准化测试和语言教学提供了核心理念和能力标准,为考试研发和改进提供参考,其对应的SCF 框架也力求在设计原则上与CEFR 保持一致。另一方面,SCF 作为效度评价模式,可以从“社会”(语境效度)和“认知”(认知效度)的视角检验语言能力标准的编写质量,为其进一步完善提供建议[13,14]。
在效度理论方面,Weir 的SCF 与其他同时期提出的框架类似[15-17],秉承Messick的整体效度观,顺应了当时教育测量理论的发展。Messick 的效度观属于“一元多维”的模式,认为效度是一个统一的概念,而效度证据来自测试的不同方面。随着Bachman 对Messick 效度理论的详细介绍和讨论,语言测评界也开启了效度验证的新视角[18]。Weir 的SCF 在承认整体效度观的基础上,借鉴社会建构主义理念,将效度证据分为两大类,具体包括6 个类别。一类是“考前证据(a priori validity evidence)”,包括考生特征(test taker characteristics)、理论关联效度(theory-based validity)、语境效度(context validity),是在考试初期设计和筹备中收集的效度证据;另一类是“考后证据(a posteriori validity evidence)”,包括评分效度(scoring validity)、后果效度(consequential validity)和效标关联效度(criterion-related validity)⑤“criterion-related validity”可译作“效标关联效度”或“对标效度”。,是考试实施后收集的效度证据。这些不同类别的效度证据在测试开发和使用的过程中相互依存、影响,而非孤立存在,形成了有机整体(图1)。
图1 Weir的SCF总体框架
在效度验证模式方面,SCF 具备突出的操作性和实用性。SCF 以其预设的6 种效度证据主要类别为基本框架,针对听说读写四种技能各自的特点,分别设立了与每种技能测试匹配的框架。在每个独立的框架中,每一类效度证据的内容都是一个更为详细的“分类清单”,清晰地展示了效度验证或评价中需要参考的事项。对于该框架的使用,原则上只要根据所需检验的效度证据“清单”中的项目逐一核对分析即可。这种效度验证模式与就诊或体检的过程相似,Fulcher 将这种模式的操作思路称作“技术主义”[19],与同时期 Bachman 和 Palmer 的“测试有用性框架(test usefulness framework)”相似[15]。尽管这类效度验证模式在理论构建的逻辑性和连贯性方面尚存缺憾,但其简洁实用的特性始终是一项毋庸置疑的优势[19,20]。
2. 理论框架的优化和精进
SCF 自初创之后,Weir 及其合作者已对原有的框架进行了许多优化和改进。针对MSE听说读写测试的研发和改进,Weir 及其合作者在借鉴SCF 的基础上,针对每种技能测试的效度验证各出版了一部著作:听力[5]、口语[21]、阅读[22]和写作[23]①其中 Examining Listening(2013)、Examining Speaking(2011)和 Examining Writing(2007)已于 2019 年由外研社出版,Examining Reading于2018年由外教社出版。,作为剑桥语言测试研究丛书中一个完整的系列②Examining Listening、Examining Speaking、Examining Reading 和Examining Writing 分别是剑桥语言测试丛书中的第35、30、29和26部著作,该丛书由M. Milanovic和C. J. Weir主编。。这些著作不仅对MSE 四种技能的英语测试进行效度验证,还在Weir 初创版框架的基础上,对SCF 做了一些修正和改进。除MSE 之外,IELTS 科研团队也同样以SCF为理论基础开展了一系列研究,其中听力[24,25]、口语[26,27]、阅读[28,29]和写作[30,31]测试都有涉及。这些成果也进一步推动了SCF 的理论建构和实践应用。以上研究进展使SCF 的内容设定更加合理,从而对四项基本技能测试具备了更好的针对性,也体现了这一效验模式的高度可塑性。
具体而言,SCF 自初创至今,其理论框架的改进主要体现在两个方面。第一是为了突显“理论关联效度”对考生作答时头脑中信息加工过程的关注,自2007 年出版的Examining Writing一书问世以来[23],这一概念更名为“认知效度”,一直沿用至今。“认知效度”这一名称其实在20世纪90年代就已在教育测量界有所提及[32],其概念含义与SCF 中的“理论关联效度”并无差异,但在用词上显然能够更加清晰地呈现“社会认知”框架中的“认知”视角。第二是在剑桥语言测试丛书中,听说读写测试四部著作在借鉴了Weir 的框架的基础上,对各类效度证据的具体参考事项做了调整和改进,使内容更为客观全面、清晰明了。最突出的变化是“语境效度”和“认知效度”框架的改进,改进后的新版本更加突出了其聚焦语言技能的特色,进一步增强了SCF 的针对性,使各种技能的框架有如“专科门诊”,有利于针对特定技能测试的效度问题“对症下药”。
(二)主要特色
SCF 主要有四个方面的特色。第一,该框架在理论构成方面兼容并包,对于语言本质、语言教学及测评体现了社会认知主义的思想。该理念认为,语言活动既是学习者头脑内部的认知活动,也是外部世界的社会活动,学习者必须通过社会化语境中的互动,才能运用并提升认知能力[6,7],语言测试的效度研究也应兼顾这两个维度。第二,SCF 的效度验证模式和思路具有突出的操作性和实用性。该框架针对每类效度的特点列出了详细的检验清单,使效度验证的过程如机动车检修或体检的程序一般简明且易于掌握。第三,这一框架对特定语言技能和任务类型的效度检验针对性强。SCF 已经针对听说读写四项技能开发出了较为完善的框架,可对每种技能测试任务的效度进行专门的检查和评估。第四,SCF对于多样化测评方式的研究和实践工作具有良好的可塑性。利用Weir 提出的效验模式,研究人员及教师可根据实际需要,针对教学中的测评任务、复合任务类型、特殊语言技能(如翻译)以及其他多样化的测试任务,定制其专属的效度检验详细清单,从而有的放矢地评价和改进这些测试。
二、社会认知框架在二语听力测试研究中的研究综述
(一)新版听力测试社会认知框架
SCF 的听力框架在借鉴Weir 原型的基础上,对各类效度证据的结构及内容的明细进行了全面调整和改进[5]。图2为2013年提出的新版听力框架①图2展示的SCF听力框架引自Lynda Taylor提供的英文版本。本文在翻译的基础上,为了突出框架中一些重点内容或修正Examining Listening一书其他章节中最新版本的理论成果,对原版本的细节进行了适当调整。。
图2 听力社会认知框架
如图2 所示,SCF 听力框架由6 类效度证据组成,除了“认知效度”这一术语取代了Weir所用的“理论关联效度”,其余5 种分类均无变化。其中考生特征、认知效度和语境效度属于考前效度证据,在听力测试的前期设计开发中起着关键作用,也是体现SCF“社会认知”理论构想的核心部分。评分效度、后果效度和效标关联效度属于考后效度证据,主要关注考试的信度证据收集、分数的解读及决策的影响,及其与外在标准的比较和关联。
以上6 种效度证据在听力测试效度验证过程中并非孤立存在或机械累加,而是以考试设计和实施的过程为主线,有条理地贯穿起来。考生特征指测试在设计、实施和使用的过程中与效度密切相关的个人因素,主要分为“身体/生理因素”、“心理因素”及“知识和经验”三类。认知效度指考生在完成测试任务的过程中运用的思维过程,与其在真实世界中完成相应任务的思维过程的相似程度,借鉴了Field的五层次听力理解模型,包括“输入解码”(input decoding)、“ 词 汇 检 索 ”(lexical search)、“ 解 析 ”(parsing)、“意义表征构建”(meaning construction)和“语篇表征构建”(discourse construction)等 5 类信息加工过程[32]。语境效度指测试任务对于实际语言运用中对应任务的代表程度,主要包括基本任务设置、测试实施条件、语言运用需要和说话者特征四大类。评分效度涉及各种与测试得分相关、并可对测试信度产生影响的过程,分为5 个类别,即“测试难度”、“项目偏倚”、“内部一致性”、“测量误差”和“评分及奖励”。后果效度涉及测试分数解释及决策对教学及职场的后效作用以及相关社会影响等问题,分为“对学校教学/职场的反拨作用”和“对特定机构和社会的影响”两方面。效标关联效度涉及测试的成绩与外在标准的关联与比较,包括与同类测试其它试题的比较、与其他类别测试的比较,以及与外在标准和框架的比较。
(二)研究现状
SCF 自问世以来至今,其听力测试框架在研究和实践中不断改进。Geranpayeh 和Taylor 的新版听力框架内容更加科学合理、与时俱进。其中认知效度框架借鉴的Field 的五层次听力理解模型在近年来的研究中颇受关注。
国际上,SCF 听力框架随着各类剑桥英语测试的研发和改进不断稳步发展。在Examining Listening一书出版前,Taylor 和 Geranpayeh 曾初步提出了改版的听力框架[33],此时认知效度的框架借鉴的是Field早期的听力理解模型[34]。但这个版本的理论层次较多,略显烦琐。与此同时,Field本人也通过对IELTS 听力讲座填空题认知效度的研究[24,25],继续探索听力理解信息加工理论,并最终将先前的听力框架精简到了5个层次[32],这一理论模型此后成为了学界普遍认可的版本。例如,Green 在其听力测试设计开发的著作中[35],开篇就介绍了Field的模型,以揭示听力理解认知过程的本质。
Weir 的框架提出之后,很快在我国受到了持续关注。较早引荐SCF 的学者主要有张新玲和邹申[36,37]。对于新版SCF 听力框架的应用和改进,近年来亦有研究涌现。例如,Wang 借鉴SCF 听力框架,以英语专业八级考试听力讲座填空题为例进行了深入研究,考察了学术英语听力构念[38]。其中Field 的听力理解模型也受到了格外关注,如孙桐对听力多项匹配题认知效度的研究和杨吕娜对图片辅助听力任务的研究将其作为分析框架[39,40]。邹绍艳、金艳采用混合研究方法,检验了CEFR 写作能力量表中B1、B2和C1级别描述语的语境效度[14]。
(三)现存问题
新版SCF 听力框架的局限性主要来自四个方面。第一,该框架缺乏对听力元认知策略的界定和探讨。听力元认知策略在学界已有比较系统的研究[41],而Field 的框架主要聚焦于对听力认知过程的描述,与Vandergrift和Goh等人的研究相对独立。事实上,元认知策略是考生作答过程中客观存在且不容忽视的思维过程,在Weir的早期听力框架和Wang提出的学术英语听力构念框架中均有涉及,但未加以系统论述。事实上,在Kalifa 和Weir 阅读测试认知效度的模型中,已对元认知策略进行了清晰的分类和系统的描述,同样作为接受性技能的听力,也无法回避元认知策略的问题[22]。第二,其他类别效度证据的详细分类尚需进一步精简或调整(主要集中于语境效度和评分效度的清单中),体现出不同项目之间的关联,甚至借鉴新的理论模型。第三,SCF 的应用局限于大规模标准化测试的设计开发和效度检验,而对于以促学为目标的听力测试效度研究还鲜有涉及。Jones和Saville在对面向学习的测评的探讨中,特别关注了SCF 及“社会认知”的视角与语言学习的关系,这意味着拓宽该框架的研究视野和应用范围具备可行性[3]。最后,SCF 的适用范围仅限于独立听力技能的测试,对图片或视频辅助的多模态①多模态(multimodality)指使用至少两种符号形式及人类感观的意义建构方式,多模态听力任务一般指融合了视觉和听觉两种感官的任务。听力任务和听力复合任务类型(如听说、听写及听读写结合),目前尚未开发合适的框架。视听结合和语言技能的融合都是听力测试研究的重要发展趋势[42,43],也应是SCF 听力框架理论建设和实际应用的未来方向。
三、听力测试社会认知框架研究前景
(一)理论建设方向
针对SCF 听力框架的理论建设,本研究提出两个方向。其一是在2013 版框架的基础上继续改进独立听力技能的框架。其二是多样化听力测试框架的构建。
对于独立听力技能框架的探索,主要涉及三个问题。第一是认知过程与元认知策略在听力理解中协同运作方式的探析。目前虽有研究通过考察听力测试中考生的作答过程,对元认知过程进行了初步探索[38,39],但研究的内容、条件及发现均比较有限,期待未来研究更为广泛深入地考察这一问题,进一步完善认知效度框架的内容。第二是语境效度内涵的探究。新版听力框架的内容仍局限于任务特征的分类和罗列,缺乏较为完善的理论视角。为探索该问题,首先应从语言测试任务真实性的概念界定开始,但这一直是学界的一个难题[44]。虽然Ockey 和Wagner 提倡从说者/作者和听者/读者的双重视角对语言任务的真实性进行界定,但仅提供了初步的思路,有待继续深入考察[44]。第三是各类效度证据框架细节上的改进。相关改进可分两类:(1)各类效度证据具体事项的编排,如Harding 曾指出,语境效度框架中讨论的听力建构性作答项目(constructed response item)的评分原则应属于评分效度的范畴[45];(2)与时俱进地调整,随着测评理论的发展和信息技术的革新,SCF 听力框架的细则也应随之不断更新。
对于多样化听力测试的研究,SCF 的理论建构应尝试突破传统。相关话题可分为两类,其一是视听结合的多模态听力任务研究,其二是听力复合任务类型的研究。客观上,SCF 良好的可塑性能使认知效度、语境效度等各类效度证据框架的制定成为切实可行的任务,期待未来深入探究。
(二)实施路径
实践方面,SCF 听力框架应跟随语言测试及相关领域的研究趋势,不断拓宽应用范围。一方面,未来可开展更多不同层次、类型和使用目的的标准化测试研发和改进工作。另一方面,探索SCF 在二语教学环境下听力评价中的应用、视听结合及听力复合任务的设计研发。
针对标准化听力测试的效度验证,未来研究可考虑两个重要方向。首先,应针对国内外更多层次及使用目的的测试开展新的研究。另外,随着计算机辅助、网络及人工智能技术依托下语言测试的加速发展,基于SCF 的听力测试也应为这些考试的设计开发和质量监管提供合适的框架。
对于多样化听力测试的开发、使用及评价,本研究推荐四个方向。第一是课堂测评听力任务的设计开发。随着“以测促学”(assessment for learning)成为近年来语言测试发展的趋势[3,46],课堂测评任务的设计开发和效度论证也受到了格外重视[47]。第二是外语教材中听力任务的设计与评价。教材是教师在教学和课堂测评中的重要资源和教学参考依据,其中的听力任务设计应考虑学生的哪些特点和需求?如何实现优质的任务设计?如何利用多样化的听力任务取得良好的教学效果?SCF 突出的针对性和可塑性使其具备分析和解决这些问题的潜力。第三是多模态听力任务研究。相关研究可分为两类,一类是图片辅助类听力任务的研究,另一类是视频辅助类听力任务的研究。视频听力任务的动态信息对听力理解辅助作用较强,且更具真实性,迄今更受学界关注。第四是听力复合任务研究。Field已在其新著中详细地讨论了听力复合任务设计的相关问题,将其分为听写、听读和听说三类,指出了每类任务在设计上的重要问题和难点[48]。期待未来SCF 根据具体需要重塑框架,并在其指导下从事该类任务的设计研发。
四、结语
Weir 提出的SCF 在当代语言教学和测评日新月异的理论发展和理念思潮中应运而生,其“社会认知”的双重视角、良好的操作性、实用性、针对性和可塑性,使其从创立至今一直独具特色。其中SCF 听力框架在2013 年改版后,内容更为清晰合理,认知效度部分借鉴的Field 提出的五层次听力理解模型,更是在学界受到了关注和重视。然而,随着语言测试设计研发和使用需求日新月异,学界研究方向不断发展变化,SCF 无论在理论建构还是应用范围方面都有待继续完善。期待SCF 在继承自身特色的前提下,向更加多元化的研究方向进发,从而在不断迅速发展变化的时代中具备持久的生命力。