教育政策和发展规划评估的指标体系量化分析研究
2017-04-25屈芳
摘 要:本文以教育政策和发展规划为研究载体,明确评估的目标、模式、原则、方法和标准;建立定性评估和定量评估相结合的综合评估指标体系,制定评估指南,完善评估机制,理清评估思路,有效开展针对教育政策和发展规划的动态跟踪及在线监测,为实现评估全程监控管理提出优化措施和基础依据,进一步提高政策规划的实施质量。
关键词:教育政策;发展规划;定性评估;定量评估
中图分类号:G726 文献标识码:A
一、教育政策和发展规划评估的必要性
我国教育正面临着从量向质提升的转型,教育政策的好坏直接关系转型成功与否。教育政策和发展规划评估在我国是一个新兴领域,其理论和方法都正在迅速发展。《国家中长期教育改革和发展规划纲要(2010-2020)年》已明确指出提高质量作为教育改革发展的核心任务。因此,针对教育政策和发展规划的特点,依据特定的评估主题及标准,推进评估程序科学化和制度化,亟需建立一套完善、规范化、制度化的量化评估体系。
(一)开展教育政策和发展规划评估研究的迫切性
制定教育政策和发展规划是政府部门的重要职责和任务之一,如何有效组织和实施,并对其运行质量和效果监控,都需要评估,以便及时调控相关教育政策和发展规划。教育政策和发展规划属于多层次、多指标、结构复杂的系统工程,具有社会性、公益性、政策性和多样性。因此,应及时设定评估方案,实现对运行中的偏离及时修正和调控。
(二)教育政策和发展规划评估实施中的关键问题
教育政策和发展规划的评估需按照一定程序,通过科学可行的方法开展定性、定量分析,对政策和规划在一定时期内的执行情况与合理性客观准确衡量。一是评判把握教育政策和发展规划执行的宏观发展趋势,客观评价规划目标和任务的落实进程;二是寻找教育政策和发展规划实施效果和既定目标间的差距,找准关键领域和重点薄弱环节,及时制定有效措施、调整导向;三是查找原有规划编制不足,提出有针对性建设意见,助力于下一轮教育政策和战略规划编制调整。
教育政策和发展规划实施进程中,普遍存在忽视实施评估环节中的关键技术问题。譬如,评估主体不明确、评估内容宽泛、评估方法缺失、评估标准不明、评估指标单一、缺少有效开展第三方机构评估等。因此,有效跟踪监测政策和规划的实施,亟待建立一套完善、科学、客观的评估体系和机制。
二、国内外教育政策和发展规划评估研究现状
公共政策评估起源于20世纪30年代,美国社会学家史蒂芬采用“实验设计方法”大规模系统开展对罗斯福总统的“新社会计划”的政策评估,揭开了现代意义上的“评估”序幕。国外政策评估最早可追溯至一战前。美国学者斯塔夫比姆指出政策评估应考虑多方要求、平衡各方利益,将近50年中常用的评估模型归为四类:包括伪评估、问题取向的评估、决策取向的评估和社会回应取向的评估。
教育政策作为一种公共政策,具有公共属性、工具属性、动态属性和系统屬性,其研究多沿用上述公共政策评估模型,按照一定教育价值标准,对教育政策对象及其环境发展变化及构成要素进行价值判断,通过诊断政策设定、实施中存在问题推进提高。国外对教育政策的研究始于二战后,现已成为教育研究的核心领域。加拿大学者迈克尔从设计评估的行动主体将教育政策评估分为行政评估、司法评估和政治评估。国际上,教育政策评估常通过第三方评估机构实施完成。
国内学者认为,不同级别和类型的教育政策应采用不同的评估模型。我国20世纪80年代后期,政策研究才步入教育研究者的视野。我国的教育政策评估一般主要从议题、方案、执行、反馈等角度进行评估。1986年,国务院成立国家教育发展研究中心,专门设置教育政策评估研究室,而各省市也相继成立教育政策研究所,其中上海市教科院设置了高等教育研究所和基础教育研究所等。
而国内的发展规划评估起步于20世纪80年代末,结合西方既有经验和实际国情,已做出初步尝试。刘生龙采用差分内差分方法评估西部大开发战略对促进西部经济增长的作用程度。陈玉献运用逻辑框架评估某省“十一五”环境规划,针对规划实施不同阶段对应不同指标体系,深入分析投入产出。
三、教育政策和发展规划评估的指标体系
教育政策和发展规划评估是一项复杂的、系统的活动,因部门和地区差异性以及评估方式多样,评估结果差异性也较大,需要制定动态的评估指标体系并及时监控调整。
(一)制定评估指南
制定详细系统的评估指南,明确评估目标、确定评估模式和评估原则,依次界定评估内容。一是开展动态跟踪评估。教育政策和发展规划落实进程的评估必须包括实施过程中的环境变动、及时跟踪、动态评价。二是针对教育政策和发展规划的落实情况,及时建立执行中偏差的准确衡量和评估调整依据。国外发展规划评估研究线路图(如图1),对于我国的发展规划评估有一定的借鉴意义。
(二)明确评估标准
教育政策和发展规划的评估标准是评估工作设定的参照系。至今,评估标准已经历三个阶段:从单一技术标准,到多元社会标准,至后续多元理性的社会政治综合标准。首先,应遵循公共政策评估的一般标准,即效果标准、效率标准和效应标准。卡尔?帕顿和大卫?沙伟奇认为影响政策和规划设计的因素多集中在技术可行性、政治可行性、经济及财政可行性、行政可操性四点。20世纪70年代末期,鲍斯特提出经典的七项政策评估标准:效能、效率、充分性、适当性、公平性、反应度和执行能力。当前,国际上较普遍采用邓恩的“多元评估标准”,综合之前的“技术标准”和“社会政治标准”,已将评估标准分为效果、效率、充足性、公平性、回应性、适宜性六个维度。
(三)构建综合评估指标体系
明确教育政策和发展规划边界,是开展相关评估的关键。因教育政策和发展规划实施周期较长,效果多元复杂,须采用定量指标和定性指标相结合的全面综合评估,建立分层级、分布式的政策和规划评估动态网络体系,实现科学、全面、客观的综合评价。
1.定性评估
教育政策和发展规划的因素复杂,有模糊性和时变性,定性评估主要用于说明教育政策和发展规划在一定时间内的执行进展情况及其可能所产生的相关影响,形成定量评估所需建构的量表和体系指标。该法特别适合过程评估,进一步回答“为什么”和“怎么样”,其重点是针对政策和规划的整体发展情况和趋势进行目标总体性实现程度的评估。
2.定量评估
定量评估主要通过收集评估对象的定量资料,采用严谨的数学逻辑思维,辅以模型深入剖析,量化规划评估结果,考查其质量效果程度,避免主观倾向。定量评估重点考查教育政策和发展规划任务中对应各子指标的实现程度。
3.定性评估+定量评估
我国的教育政策和发展规划综合性较强、涉及范围广,采用定性和定量相结合的方法开展获取最佳评估结果。定量评估并非纯粹客观性,而是包含着某种“建构性”,其信度和效度分析主要依赖测量工具是否设计的精致,以及是否能有效测出所探讨的现象。此外,定量指标的权重一般大于定性指标。Denzin研究表明运用各种不同方法与资料多角化可相互验证。定量评估和定性评估都各自有优缺点,结合施用可互补。Trend也指出定性和量化资料要结合使用,有助于提高评估研究品质。
(四)确定评估主体
有效吸纳多元主体,提高教育政策和发展规划评估工作的科学性和社会参与度,体现评估的客观性和公正性,保证评估独立性,确保评估结论的可信度。
(五)量化评估方法
构建评估指标体系及评估方法量化是开展评估的关键,是改进和创新规划评估工作的创新之源,其中涉及各因素间的交叉性、确定指标权重、不均化处理等技术难点。
1.层次分析法
把复杂总目标系统分解成若干个子目标,形成递阶层次结构。定性部分采用层次分析法,确定各级指标重要程度,判断矩阵的特征根、特征向量,并进行一致性检验;定量部分则利用灰色模糊综合评价模型,得到针对评价对象的不同级别指标的优劣等级和相应权重。
2.灰色系统法
灰色系统法重点解决系统中非透明部分,采用层次分析法圈定各影响因素的权重,鉴于专家打分时评判信息具有灰度,通过灰色评估建立白化函数,需用灰色聚类理论构造模糊隶属度矩阵继而进行综合评估。
3.逻辑框架法
逻辑框架法向上逐级展开获得政策和规划的影响及后果,向下逐层推演找出针对原因得到“逻辑树”;通过该逻辑树将规划和政策的“因果关系”转换为相应的“目标关系”,得到“目标树”,并进一步通过“规划矩阵”来完成相关评估。
4.文献研究法
基于对比分析相关文献的基础上,深入调研目前国内外对教育政策和发展规划评估的现状和需求,为后续评估工作的开展奠定基础。
5.问卷调查法
该法不受时空限制,调查问卷一般有结构性问卷、非结构问卷、综合型问卷三类,辅以统计、访谈等方式,调查掌握主要情况和典型事例,深入分析,实现较短时间内获取较多有用信息。
6.信度鉴定法
在相同条件下,分别从评估者信度、重测信度、分半信度、内部一致性信度等方面对同一客观事物测量若干次,考察测量结果的相互符合程度或一致程度。
7.效度鉴定法
用以反映评估结果与真值的接近程度,或测定工具的测定结果与预想结果的符合程度,具体包括效标关联效度、内容效度、结构效度等测验鉴定。
8.要素分析法
按照评估目的和要求,客观深入分析和评判原评估中各种材料的内容要素及其有效性,主要分析內容效度、结构效度等要素。
9.专家评议法
该法操作方便,由从事或接近某领域的专家运用归纳法和演绎法来评定;形式可通过专家会议法、Delphi法以及不同专家意见相互印证和补充。
10.案例分析法
采用现实案例支撑,结合定性研究与定量研究,使得评估结论具科学性、合理性以及现实指导意义。
(六)评估调研形式
针对教育政策和发展规划,可采用多种评估调研形式相结合,譬如,年度评估+中期评估+终期评估、综合评估+专项评估、横向评估+纵向评估、自主评估+第三方组织评估等,强化评估结果的客观性和科学性。
1.年度评估+中期评估+终期评估
第一,通过年度比较,考察各项重点任务的序时进度。第二,中期评估主要是了解教育政策和发展规划的实现情况。第三,后期评估重点是为今后制定发展规划和公共政策提供借鉴和依据。
2.综合评估+专项评估
除开展综合评估外,还应结合国家教育政策和发展规划的重点和难点开展一系列专题调研,形成专项评估。
3.横向评估+纵向评估
为弥补纵向评估不足,横向评估能更客观评估教育政策和发展规划的执行进展,及时发现执行中的问题。
4.自主评估+第三方组织评估
第三方评估是实现政府治理现代化的重要手段,有利于提高重大政策规划实施的质量和水平。
(七)强化评估结果推广应用、建立评估反馈机制
形成评估报告,发布评估结果,积极推广并强化科技成果应用转化。将该评估结果结合实际案例分析,可从多个关键参与者的视角看待个体或组织,将对评估实践推广更具实际指导意义。
评估反馈机制是构建由评估到及时调控的桥梁,形式灵活,可通过网络、年度专题白皮书等定期发布和及时反馈,确保建立规划“滚动”的修订机制,为后续决策分析做充足数据支撑。
参考文献
[1]李志军.重大公共政策评估理论、方法与实践[M].北京:中国发展出版社,2016.
[2]袁振国.教育政策学[M].南京: 江苏教育出版社,2001.
[3]胡伶.教育政策评估标准体系的架构研究[J].教育理论与实践,2008(12).[4]张金马.公共政策分析:概念、过程、方法[M].北京:人民出版社,2004.
[5]威廉N邓恩:公共政策导论(第2版)[M].北京:中国人民大学出版社,2002.
[6]屈芳,马旭玲,罗林明.调查问卷的信度分析及其影响因素研究[J].继续教育,2015(1).
[7]杨永恒.发展规划:理论、方法和实践[M].北京:清华大学出版社,2012.
[8]张小玲.国外政府绩效评估方法比较研究[J].软科学,2004(5).
[9]杨伟民.规划体制改革的理论探索[M].北京:中国物价出版社,2003.
[10]李允杰,丘昌泰.政策执行与评估[M].北京:北京大学出版社,2008.
[11]Walker,Robert.An introduction to applied qualitative research[M].Applied Qualitative Research,Robert Walker,ed.,Brookfield, Vermont: Grower Publishing Company,1985.
[12]Denzin,Norman K.The Research Act,Chicago:Aldine Publishing Co,1970.