美国国家教育评估与地区援助中心的项目评估及其启示
2022-06-01杨晓莹
摘 要:国家教育评估与地区援助中心是美国重要的研究机构之一,主要通过对联邦教育部实施的相关教育项目的有效性与影响进行评估,为政策制定者与决策者提供信息,并推广与宣传其研究成果。其项目评估包括提前制定评估方案与计划,根据目标不断调试与改进策略,推广与宣传研究成果和报告等重要环节;体现出评估人员的专业性与专业匹配度高、评估过程与数据透明度高、评估结果反馈与评价及时、项目资助金额大的特点。我国在开展教育项目评估时可通过遵循整体推进原则、全方位考量项目评估的科学性,确保研究数据的客观性与真实性,促进科研数据开放路径提升评估水平。
关键词:美国 项目评估 国家教育评估与地区援助中心
国家教育评估与地区援助中心(National Center for Education Evaluation and Regional Assistance,NCEE)是美国科学研究所(The Institute of Education Science,IES)下属的四个中心之一。[1]NCEE的使命是对联邦教育部实施的相关教育项目进行评估,其主要职能包括:为政策制定者和决策者提供信息;对教育项目的有效性实施评估;对相关研究成果进行传播和推广。[2]截至目前,NCEE已实施70多项评估,评估领域和主题涉及早期扫盲干预、教师专业发展、残障学生教育等。本研究聚焦NCEE的评估项目,探究其开展项目评估的主要环节和特点,以及对我国的启示。
一、项目评估主要环节
(一)制定评估方案
在开展项目评估前,NCEE拟订评估方案,进一步明确研究目标、研究问题、研究方法等。这一阶段,项目评估组需要确定研究对象的数量与类型、阐述这些对象的特征以及选择其作为研究对象的原因、根据研究问题提出研究设想、描述每种研究方法的使用过程与情境等。例如,NCEE在2004—2010年完成了一项关于阅读理解项目的评估,并发布了研究报告,报告阐述了研究问题以及研究干预方法的选择等,主要围绕阅读理解课程对阅读理解产生的整体性影响是什么,学生、教师以及学校的特点与课程的影响有什么联系,在干预措施实施一年后课程对学生产生了哪些影响等多个问题展开研究。这项研究基于严格的随机分配设计,明确实施干预措施的过程,参与地区、学校和教师遵循自主自愿原则,全面和严格地搜集数据以便于回答与解释主要研究问题。[3]NCEE调查研究的问题、方法与研究过程明确将可能发生的问题与风险考虑在内,并为其发生做好充足的准备。这降低了潜在风险的发生率,有效避免一些其他因素对研究结果的影响,有助于研究结论的真实性与精确性。
(二)根据目标调试推进策略
在推进与实施项目评估的进程中,根据设定的目标不断地调试与改变当前的推进策略。最初的推进策略往往与达成的目标所需策略之间存在一定的差距,为达成目标,必须在项目推进、策略实施的过程中不斷审视与调试。例如,在一项调查研究中,为确定调查样本与目标群体之间的相似性以及差异性,在招募研究对象的过程中,可能会出现一些不符合条件的学校,因此,项目评估组制作出一个表格,用于记录与分析这些不符合标准的学校的数量以及其与符合标准的学校之间的区别与联系,通过统计不符合标准的学校数量来判定其影响研究结论的程度,如果数量不多,可能对研究结论的影响较少,反之,就需要重新选择与规范调研对象。[4]以这种方式来分析与调试研究框架的局限性与问题,进一步确保研究结论的信度与效度。
项目评估组还会关注到一些潜在的影响研究结果的因素。例如,项目评估组不仅要计算和评估被招募的学校的退出率,还要获取学校拒绝参加调查研究的相关信息,助力于提升研究结果的普遍接受性,并对这些学校的退出原因(如学校认为当前学校尚未有足够的教育资源参与这项研究)进行分析。总而言之,这一过程需要调查研究者全面地考虑问题、多方面地分析原因等,动态地、全面地审视与监督整个调查研究过程。
(三)推广与宣传研究成果
推广与宣传研究成果是NCEE实施项目评估的关键环节,亦是最后一步。研究成果推广的方式与途径是多样的,既可以在官网上公开研究报告,也可以通过工作简报的形式向公众展示,其中研究报告不仅包括聚焦国家重大研究项目的主题式评估报告,也有区域教育实验报告、技术方法报告。
研究报告的主要意图是定期为教育工作者与政策制定者提供可信的、科学的研究基础,同其他报告的评估过程一样,在发表与公布之前需要进行严格的同行评审程序,以确保符合各项标准等。区域教育实验报告主要包括热点与问答、技术简报两个模块。技术方法报告主要涉及现有数据集的分析以及探索新技术方法的使用两个部分,NCEE致力于通过对这两种方法的探索与研究,来促进教育评估领域方法的进步,供研究人员、方法学家及评估专家使用。[5]NCEE不仅在推广与宣传的路径与方式上体现多样性,在宣传的内容方面也进行严格的审查与核对,突出强调内容的真实性、可靠性与专业性。
二、项目评估特点
(一)评估人员的专业性强、专业匹配度高
高质量的研究既依赖于研究项目的统筹规划、各部门间的协调合作,也依托于评估专家的专业知识与能力。选择参与评估的专家需按照一定的原则、标准与要求,对这些专家进行专业背景的考察以确保评估人员的专业匹配度,将评估合同授予那些与评估部门没有利益冲突的专家,专家以多样化的形式参与到评估过程中,保持高度的专业性与科学性。
(二)评估过程与数据的透明度高
评估过程以及数据的公开透明是NCEE开展教育评估的重要特征。《2002年教育科学改革法》(Education Sciences Reform Act 2002)中明确提到了所有的评估项目应严格按照独立性、相关性、质量、透明度和伦理五个方面的标准进行。为确保政府和公众能获得正在进行中的以及已经完成的评估项目的信息,NCEE网站发布项目简介,提供每项评价项目的相关信息,如成本、预期时间表、背景和目的、评价问题、方法和数据收集、主要观点等。所有已完成的评估项目报告都会上传到NCEE网站上以供参考。NCEE还将评价中的数据提供给有资格的个人便于再次分析与研究。NCEE的评估项目重视评估过程以及数据的公开性,并采取一定的措施提升评估的透明度。
(三)评估结果的反馈与评价及时
NCEE实施大规模评估项目采用的方法是与该项目的部门主管保持联系,以确定评价主题和重要问题,并且在评价期间为其反馈最新评估进展,在评价结束后第一时间告知评价结果等。NCEE评估项目重视及时反馈评估进展的基本情况,与相关人员保持紧密联系,让相关领域专家充分了解评估的全过程,及时指出项目实施过程中存在的问题,进而根据意见与建议做进一步完善与调整,更好地帮助项目组解决问题。例如,部门主管对项目评价的侧重点在于能否帮助解决实际问题、发现隐藏的风险等,而评估专家团队所考虑的问题则是如何运用专业知识与手段达成预期目标,以及在过程中该如何做出调试与改进等。因此,及时反馈与交流评估进展十分必要,项目的反馈评价与改进完善是相辅相成的,在反馈评价中不断完善,改进评估过程也进一步提升反馈与评价的质量与方法。
(四)项目资助金额大
根据NCEE官网公开的可供其他研究者申请使用数据的项目情况,NCEE项目资助金额大。以其列出的前十个项目为例,资助金额最低为7,861,244美元,最高为33,072,062美元,平均资助金额超过1400万美元(见表1)。
三、启示
(一)遵循整体推进原则,全方位考量项目评估的科学性
评估项目的有效实施能够在一定程度上挖掘有意义的和值得進一步探究的研究项目,并从中发现新的研究生长点,节约研究成本与时间,提高评估项目实施的效率。NCEE开展项目评估的运作机制前期、中期和后期各具特点。前期针对整个评估项目制定实施计划并做好全方位的风险评估,未雨绸缪;中期对标所要达成的目标不断调试研究方式与方法,及时反馈与公开研究过程与结论,使研究过程更为充实与丰富;后期公开与发表研究成果,供不同群体参考与学习。
(二)确保研究数据的真实性与客观性,避免学术不端
在开展评估时应确保数据的真实、客观与有效。国内许多研究项目的研究过程与数据是不公开的,外界无法熟悉与了解原始数据以及整个分析过程,研究中可能存在的一些的瑕疵与问题难以被发现。为了提升科研水平与优化科研环境,有必要使用专业的软件以及专业知识进一步检验与核实研究数据的准确性。必要时研究团队进一步阐述数据收集过程以及分析过程。同时,也要求研究者恪守职业道德与规范,树立正确的研究价值观,扎根于中国本土脚踏实地开展研究,切勿心思浮躁、急功近利。
(三)促进科研数据开放,便于学者开展二次研究
我国一些学者苦于国内尚没有一个比较完整的、公开的数据库,想要围绕一个热点问题展开研究,必须自己去调研查找资料,或者查找与登录国外的公开数据库,在数据获取、选择与运用方面存在一定的难度。这一方面消磨教师开展研究的积极性,另一方面增加研究成本。如果国内的智库与研究机构能够选择性地公开一些调查研究项目的相关信息,就便于教师充分利用公开的数据展开个性化的研究。
参考文献:
[1]鞠光宇.透视美国教育科学研究所[J].世界教育信息,2012,25(15):40-42.
[2]NECC.Evaluation report[EB/OL].[2022-03-21].http://ies.ed.gov/ncee/aboutus/.
[3]NECC.Effectiveness of selected supplemental reading comprehension interventions:findings from two student cohorts[EB/OL].[2022-03-22].https://ies.ed.gov/ncee/pubs/20104015/pdf/20104015.pdf.
[4]NECC.Enhancing the generalizability of impact studies in education[EB/OL].[2022-03-23].https://ies.ed.gov/ncee/pubs/2022003/pdf/2022003.pdf.
[5]NECC.NCEE publications[EB/OL].[2022-03-23].https://ies.ed.gov/ncee/pubs/.
编辑 吕伊雯 校对 娜迪拉·阿不拉江
作者简介:杨晓莹,江苏大学教师教育学院讲师、江苏大学教师教育学院教育伦理研究所副所长
基金项目:2021年度江苏大学高等教育规划发展研究一般项目“《深化新时代教育评价改革总体方案》背景下江苏大学教师评价体系研究”(编号:G202113)