基于熵值法的课程毕业要求达成性评分方法探索
2023-10-19王春林李鑫阳石宏岩赵佳美
王春林 李鑫阳 石宏岩 赵佳美
摘 要:课程评价指标与毕业要求达成度的关系是专业评估的重要指标。过程性评价中的主观因素对总评影响较大,不同评分者之间的评分信息相互干涉,总分难以反映学生的综合素质能力。在专业认证背景下,通过对毕业要求指标点的细化分解,运用熵值法对主观评分进行了二层次的分析,并汇总综合成绩,得到了客观赋权方法,更真实地反映了学生的学习特点,权重结果反映了评分者对各指标的评分倾向性,权重指标能够反映毕业要求达成的相关程度,更有利于进行课程教学目标的调整和持续改进。
关键词:熵值法;毕业要求;课程评价;过程化考核
中图分类号:G642 文献标识码:A 文章编号:1673-260X(2023)09-0102-05
我国自20世纪80年代工程教育专业认证的探索,2013年《华盛顿协议》(Washington Accord)制定的毕业要求框架作为专业认证具有实质等效的基本依据,从教学目标层次对毕业要求的“可遵循”“可评价”“可落实”三原则[1]。在评价解决复杂工程问题的活动中,涉及资源范围、交互程度、创新程度、社会和环境影响、精细程度等方面,评价指标具有较强的主观性,不同评分者的关注点差异导致了评分结果的巨大差异[2]。为了更科学合理地进行课程主观评分部分的教学评价,选取熵值法对不同评分者的评分进行客观赋权,按照每个指标的信息量进行权重评估,以求更接近真实反映学生学习目标达成度,从而更好地为课程教学的持续改进服务。
1 过程化考核中存在的主要问题及解决途径
1.1 信息论在过程化考核中的研究
过程化考核,侧重对复杂工程问题的分析过程、基本知识原理的应用、数据采集分析等广泛的数据作为样本,以评分者主观评价作为指标的形成性评价。为了避免主观因素对评价结果的影响,通过信息论熵值法进行权重赋值以形成相对客观的评分权重。许多学者在课堂质量、成绩分析、教学评价等方面进行了深入研究。王仪等用模糊综合评价分析了对应毕业要求的教学环节、支撑课程作用[3];任吉等用德尔菲法,构建了包含17个指标、2个评分层级的方法论课程课堂质量评价指标体系[4];李廉等通过熵值法与平均值法进行数据对比,形成正态分布曲线进行评价效果分析[5];张金标等以熵值法探讨全过程考核成绩分析的方法[6];田夏用层次分析法与熵值法结合进行了教学实验室评价体系的构建[7];陈晓亮将熵权计算用于人工智能通识在线课程的质量评价[8]。
1.2 熵值法的适用条件
通过大量的计算案例,分析熵值法的适用条件:(1)对成绩权重无特别要求,按成绩区分度进行成绩的综合评价,得到相对客观的成绩评定结果,更接近于对数据本身的差异化计算得出的权重指标,是一种相对客观的赋权方法。(2)对总体分数集中、个别打分显著偏离的样本,对权重的设置有影响,如除1个零分,其他全为100,这种情况下权重高、而实际意义并不大。需要在计算方法上进行改进,如用VCM方法进行改进。(3)权重设置的第三位有效数字无意义,故计算过程可只取到百分位的整数位,四舍五入。为避免出现0和1,归一化运算均计算到0.01-0.99。(4)权重与数值大小无关,仅与属于的差异性相关,如果要考虑指标差异化比例,需要进行再次加权。
2 面向毕业要求达成的考核指标设计
毕业要求的达成情况与课程评价紧密联系,课程的评价要对毕业要求形成有力的支撑,因此需要从课程教学目标上体现毕业要求[9]。以matlab工程应用课程为例,该课程目的是使学生能够掌握Matlab的基本概念以及主要模块的流程和功能,熟练的使用Matlab的原理进行實际的问题分析和研究,实现简单的仿真及交互设计应用。课程要求强调与工程相结合的研究能力和使用现代工具解决问题的能力,两部分成绩各占50%。其中的研究部分,设计了6个不同的团队作业,对应复杂工程问题活动的5个因素进行综合打分;对现代工具的使用,设计平时的作业、期中期末两次习题进行客观评价。本文重点讨论综合打分部分的成绩形成方法。
对照专业认证、毕业条件设置评分标准项目、权重,将毕业要求的指标点细化为可量化评价的具体指标,形成评分细则。其中,平时成绩的作业、习题等两部分形成学生自检、教师集中检查两种考核方式,按照循序渐进、少量多次组织日常学习,典型题目抽检集中测评来形成班级学情的总体把握。自主设计部分,形成教师评价、学生自评、组内互评、组间互评等四种评分,是体现学生查阅资料发现问题、设计合理的实验过程分析问题、综合运用知识有效解决工程问题的综合性、过程性评价方法。与教学目标对应关系如表2所示。
3 基于熵值法的课程环节评价
评分指标按照平均分法和熵值法进行了评分比较,形成了9个评分者、每人6个评分小项的综合评分,进一步分析毕业要求达成情况[10],评分标准如表3所示。
3.1 熵值法的基本原理
熵值法的主要计算过程有:数据标准化(归一计算)、计算指标权重、计算指标信息熵、确定指标权重、计算综合评分等5个步骤,计算流程如图1所示。
(1)数据标准化:
设成绩评价共n人,参评学生m人,将成绩初始化为100分制。
标准化矩阵Y,取值(0,1)区间,为避免计算结果出现0、1数值,导致信息熵结果不可用,进行指标微调:
在式(1)中,Xi={x1,x2,…,xm}——每个评分者的评分;
Yij——标准化矩阵,或称为归一化矩阵,即讲所有指标化为(0,1)的数据集,转为无量纲数,方便数据的比对和处理。
(2)指标权重计算:
在式(2)中——pij为无量纲数的指标权重。
(3)根据信息熵的定义,每个评分者的信息熵为Ej:
在式(3)中——Ej为指标信息熵。
(4)确定指标权重:
在式(4)中——j为基于信息熵的指标权重,1-Ej为信息的效用值,与信息的可用价值成正比。
(5)计算每个方案的综合评分:
在式(5)中——Si为加权评分分值
3.2 过程性考核评价案例
(1)二级指标及评分。按照毕业要求达成度的5个相关指标进行,选取9人的评价小组进行综合打分,9人中包括教师、学生、实践指导、行业专家等。分值按A、B、C、D、E等五个梯度打分,分别对应90、80、70、60、50分,用(1)公式进行数据标准化,再将标准化的数据通过(2)公式进行指标权重的计算,所得的结果通过(3)式进行信息熵的计算,生成表4中Ej信息熵的数值,再用(4)公式计算二级权重指标,公式(5)得到二级指标每个学生的评分值。所列公式进行数据分析,计算得出二级指标的各评分者信息熵,并得到各评分者的评分权重,部分原始评分及对应权重计算结果如表4所示。
由计算结果可以看出,“评6”的权重最高、为17.9%,“评8”的权重最低、为2.6%。原因是整个数据表的分数梯度,“评6”的最高分和最低分差值较大,“评8”的最高、最低分分差最小。即相对变化程度大的指标有较高权重,从而减小了区分度低的评分者在整个评分过程中的权重,评分结果有利于增强分数的区分度,筛选出学生的不同学习特点。
按此方法分别将五个相关指标进行学生成绩评定,得到五个指标及一个加分项的评分汇总表,作为指标评分分析的基础。
(2)一级指标及评分。按照描述复杂工程问题的资源范围、交互程度、创新程度、社会和环境影响、精细程度等5个指标,运用熵值法进行二次评分。(1)公式进行数据标准化,再将标准化的数据通过(2)公式进行指标权重的计算,所得的结果通过(3)式进行信息熵的计算,生成表4中Ej信息熵的数值,再用(4)公式计算一级权重指标,公式(5)得到一级指标每个学生的综合评分值。相应的二级指标部分计算得分值、对应的信息熵及一级指标的信息熵权重指标见表6。从计算结果看,从表8所示汇总指标来看,指标2所对应的比例占30.8%,为所有指标的最大值,说明指标2在各评分者中的比例权重最高。指标4、5其次,指标1、3最后,明显形成了三个评分梯度。
3.3 评价结果分析
按熵值法将5个指标、9个评分者的评分进行了二次分析,用(5)式得出了不同指标的评分权重,结果见表6。分析两级指标的数据特点,可以发现对评分者、评分指标的差异化权重,对学生的总体表现有相对客观的评价。
(1)二级指标对应评分者对不同指标的权重差异。由表6可知,打分者的各项指标分配的权重差异显著,如评7在指标3中权重近30%,评6在指标4中权重1.9%,从中可以相对客观的按照打分者的评价侧重点基于更客观的评价。且同一打分者,在不同指标的评分权重不同,客观上反映了评分者对各指标的评分倾向性,更有利于进行课程教学目标的调整和持续改进。
(2)一级指标对应不同指标对综合成绩的权重。关联毕业要求达成度中的高、中、低三个指标,为人才培养的毕业要求达成度确定和评判提供了相对客观的数据支持。从本次的评分指标上看,指标2是教学过程中的高关注点,即师生更关注解决问题的交互程度,对应形成研究结论的解决过程。对资源范围、创新程度关注相对较低,即未来可以调整和改进的关注点。由一级指标的权重值可以发现,熵值法有利于辅助教师确定下一步的持续改进方案,锁定关键指标进行课程优化。
(3)总成绩分布及区分度。总成绩分布及区分度对表7熵值法和表8平均值法形成的学生成绩比较发现,总体上二者总评成绩相近,熵值法的标准差更小,最高分基本一致,最低分变化明显,总成绩区分度熵值法相对较低。平均成绩各分项的平均成绩提高了1-3分,单项指标最高分与最低分差异减少了7-9分,总分最高分、最低分影响不大,约为2分。说明熵值法的成绩评价降低了评分的区分度,学生间在总成绩上的差异性指标降低。体现了错位发展、特色培养的教学导向,有利于学生通过成绩评价发现在一门课程中的不同毕业要求达成情况之间的差异,进而调整学生的个人规划发展方向。
进一步分析两种评分的标准差,由圖2可知,熵值法与均值法在班级总评分数上基本一致,但在各指标的分项评分中标准差更小,成绩分布更集中,避免了不同评分者打分过高或过低对总评成绩的影响。同时,受动态的指标权重的影响,评价成绩更倾向于学生的综合素质、能力的评估。
4 小结
过程化考核是激发学生持续学习能力、促进知识的日常积累、营造师生之间教学相长的学习氛围、激活课程思政元素的有效手段,而评价过程中,始终存在着主观性过强、个别评分者的评分影响过大的情况,通过熵值法的成绩评价,把主观评分用相对客观的方式统一起来,使得形成性课程评价在评定过程中更符合学生的总体水平、体现综合素质能力。同时将评分者在评分过程中的评分倾向性客观的表现出来,为形成有效的毕业达成度指标提供参考。
——————————
参考文献:
〔1〕李志义,赵卫兵.我国工程教育认证的最新进展[J].高等工程教育研究,2021,39(05):39-43.
〔2〕李志义.对毕业要求及其制定的再认识——工程教育专业认证视角[J].高等工程教育研究,2020, 38(05):1-10.
〔3〕王仪,朱凯.毕业要求达成度模糊综合评价方法研究——以土木工程专业为例[J].高等建筑教育,2021,30(01):151-160.
〔4〕任吉,于佳琪.熵权法在硕士研究生方法论课程质量评价体系构建中的应用[J].黑龙江高教研究,2021,39(09):105-110.
〔5〕李廉,张万红.高校课程考试成绩正态分布辨析[J].中国考试,2021,19(04):86-93.
〔6〕张金标,徐向棋,刘建,等.基于信息理论的高校课程全过程考核成绩分析方法研究[J].未来与发展,2021,45(02):74-78.
〔7〕田夏.基于层次分析法—熵权法的教学实验室评价体系构建[J].实验室研究与探索,2020,39(07):264-269.
〔8〕陈晓亮.基于熵权计算的人工智能通识在线课程质量评价[J].计算机教育,2020,18(09):137-140.
〔9〕杨晚生,刘琳,高云飞,等.基于工程认证标准要求的课程权重系数计算方法分析[J].高等建筑教育,2021,30(01):161-166.
〔10〕吕燕,李颖娜,孟丽军.工程教育认证背景下毕业要求达成度评价实践——以唐山学院化学工程与工艺专业为例[J].教育教学论坛,2021,13(19):121-124.