2018年住院医师规范化培训基地自我评估偏差程度的回顾性分析
2019-10-09于渊宁吴振龙李鸣莉姜众贾明艳柳琪林
于渊宁,吴振龙,李鸣莉,姜众,贾明艳,柳琪林
(1.中国医师协会毕业后医学教育部,北京 100073;2.美国马萨诸塞州大学医学中心病理系,沃切斯特市 01655;3.北京医学教育协会,北京 100050)
住院医师规范化培训(住培)是我国卫生健康行业人力资源发展与人才培养的重要阶段,培训基地质量建设是住培成功的重要基础,对培训基地及其专业基地进行综合评估是检验国家住培制度落实程度和质量的重要手段。客观的自我评价是基地(包括培训基地和专业基地,下同)找到不足,认清差距,扎实稳步提高的前提。自我评价过高或过低都不利于基地的自我改进。本研究通过对2018年部分基地自评和国家综合评估进行对比,找到偏差的规律并分析可能的原因,为未来基地质量内涵建设提供参考。
国家高度重视培训基地质量建设情况,从2015年起,连续每年组织对全国31 个省(自治区、市)和新疆生产建设兵团培训基地开展综合评估。评估内容包括基地组织体系建设、制度建设、招收培养、师资队伍、过程管理、质量考核、待遇保障等方面,制订了严格的评估标准和评估机制,建立了一支业务能力强、懂管理、有责任心的评估专家队伍。通过评估,发现培训基地和专业基地住培工作上的不足,提出改进意见,住培工作整体上有了很大提高,达到了以评促建的目的。
发现问题是改进工作的重要前提,只有准确查找出问题,才能有针对性地改进完善。除了上文提到的国家评估过程中由专家组找出问题外,培训基地与专业基地日常自我查找和发现问题的自我评估也是改进的重要途径。全国知名专家根据住培标准制定的培训基地和不同专业基地评估表和评分原则,发布在中国医师协会毕业后医学教育网“住院医师规范化培训管理平台”,这是评估专家对基地工作评判的依据,也是基地自我评估的标准。
1 资料与方法
1.1 研究对象 选取2018年接受国家综合评估(第三批、第四批、第五批)的培训基地及其专业基地共184 个合格对象进行研究。对评估基地的自我评估分值和对应的国家综合评估分值进行分析。排除标准:(1)A 省3 家培训基地和B 省2 家培训基地因信息显示不全未予录入。(2)C 省a 医院内科和外科专业基地,D 省b 医院内科、急诊科、外科、骨科、麻醉科专业基地,未按照要求自评,只有国家综合评估,这部分数据不参与汇总统计分析。
1.2 研究方法 共有30 家培训基地184 份评分报告,包括对培训基地的综合评分及各专业基地的评分。计算基地自评分和国家综合评估分之间的分值差即偏差值,计算方法为:偏差值=基地自评分-国家综合评估分。另计算偏差度,计算方法为:偏差度=偏差值/国家综合评估分,对偏差度以10%间隔分组。
1.3 统计学方法 本研究采用WPS office(2019)进行描述性统计。
2 结 果
基地自评-他评偏差度分布区间统计,见表1。
表1 基地自评-他评偏差度分布区间(n=184)Table1 Statistics of distribution interval of base selfassessment and other-assessment deviation degrees(n=184)
2.1 整体情况 从统计分析来看,184 个样本中,除7 例(占比3.80%)为自评分低于或等于国家综合评估分外,其余96.20%的样本都存在评估对象自评分数高于国家综合评估分的情况。184 个评估对象中,最低的偏差度为-5.81%,最高偏差度达155.26%。考虑到自评与他评很难完全一致,如果以±10.00%(含)以内的偏差度为基本一致,10.00%~30.00%(含30.00%)为部分偏离,>30.00% 为严重偏离,则基本一致比例数为25.00%,部分偏离比例为55.98%,严重偏离的比例为19.02%。后二者合计比例为75.00%,也就是75.00%的评估对象都存在自我评价过高的现象。
2.2 黄牌基地偏离情况 国家综合评估对评估对象的不同方面均进行评估,设定不同分值,并划定核心指标。根据各分项打分结果及核心指标评定结果,把评估对象的评估结果分为:合格、限期整改/黄牌、撤销资格/红牌。本次研究的184 个有效对象中有24 个黄牌,其余160 个评估对象为合格,见表2。如果以偏差度平均值为参考指标,24 个黄牌评估对象偏差度平均值为39.95%(黄牌基地分值差之和/评估分总和)且均为正偏差(即自评分均高于国家综合评估分),平均偏差值为25.72。相比之下,达标的评估对象偏差度平均值为16.55%,平均偏差值为13.21,二者之间差距明显。
表2 黄牌基地/非黄牌基地偏差度分布区间表Table2 Distribution interval of deviation degree of unqualified base/qualified bases
如表2所示,黄牌基地与国家综合评估结果偏差度在±10.00%之间、基本一致的仅有1 例。部分偏离的、位于(10,30]区间的为5 例,占比20.83%。偏差度分布区间在(30,50]的个数为13 个,占全部黄牌基地的54.17%。偏差度>50.00%的有5个,占比20.83%。黄牌基地中严重偏离的(偏差度>30%)比例为75.00%。相较之下,达标的评估对象严重偏离比例仅为10.63%。也就是说,黄牌不合格评估对象更容易出现自我评价过高的情况且自我评价过高的程度更为明显。
在184 个评估对象中,偏差度>30.00%的严重偏离对象为35 个,其中涉及培训基地综合情况自我评估的为9 个,占比最高,也就是培训基地综合情况自我评估最容易出现正向严重偏离。
选取本次评估达标和黄牌的综合、内科、急诊科等专业,自评值与专家评估值之间差值的算数平均值,见表3。
表3 达标/黄牌评估对象部分专业偏差值Table3 List of partial professional deviations of qualified/unqualified assessed objects
2.3 国家级示范基地本轮自评/评估偏差情况 2015年10月15日,原国家卫生计生委在重庆召开全国住培现场经验交流会,会上公布了首批24 家住培示范基地名单(含西医21 家,中医3 家)。本次(2018年第三、四、五批)综合评估,抽选到了其中两家示范基地。从评估结果看,这两家示范基地距离“示范标杆”还有一定的差距。A 基地综合自我评估103 分,评估专家组打分72.70 分,处于较低水平;偏差绝对值为30.30分,处于较高水平。B基地综合和神经内科、外科、妇产科等专业基地评估分均处于较低水平,且内科专业基地评估认定为不合格。A 基地和B 基地评分情况见表4、表5。
表4 A 基地自评-他评偏差值Table4 The self-assessment/national assessment deviation of A-level Base
表5 B 基地自评-他评偏差值Table5 The self-assessment/national assessment deviation of B-level Base
3 分析与对策
培训基地和专业基地自评指标与国家综合评估指标一致,评分标准和扣分依据公布在毕业后医学教育网“住院医师规范化培训管理平台”,培训基地可登录后自行下载、学习和自我评价。国家综合评估组选用的都是多年从事毕业后医学教育以及医院管理和各专业领域的知名专家,有丰富的国家级评估经验,评分公正客观,因此,以国家综合评估分值作为评判培训基地和专业基地是否达到国家住培工作要求的标准,具备较高可信度。
评分规则大致可分为两类,一是可以用具体数据、事实衡量的客观指标,如病床数、病例数、图书数、手术数、师资比例等。另一类是具有一定主观性质的指标,如病历书写质量、小讲课质量等。从理论上讲,客观指标的自我评估和国家综合评估应该较为一致,而主观指标则较易出现偏差。但在分析各自评表和国家综合评估表时,客观指标和主观指标均有程度不等的偏差。究其原因,主要在于以下几个方面。(1)基地对指标不熟悉,对具体要求不理解,或理解上存在偏差。(2)基地对自身住培工作情况不了解,数据收集整理和汇总分析不及时、不准确,导致自我评估不准。(3)工作责任心不强,自评不严格,填报出现错误。(4)心理学上的邓宁-克鲁格效应(Dunning-Kruger Effect),邓宁- 克鲁格效应指的是个体在完成某项任务时对自己能力的评价产生的偏差[1]。研究发现,能力较低的个体,自我评价反而较高。因为自我评价和填报都是由基地管理人员进行,所以邓宁-克鲁格效应在这里指的是组织(培训基地和专业基地),即工作较差的培训基地和专业基地自我评价越高,这在黄牌基地统计数据中得到了验证。(5)对自评工作认识有偏差。把自评报告当作工作成绩汇报,因此在报告中对工作成绩进行夸大,而对自身实际存在的问题避而不谈。
客观的自我评价是基地发现住培工作中存在的不足,进而及时改进和完善的前提。从上文的分析可以看出,未来的工作可以从以下几方面开展,以帮助培训基地和专业基地最大程度消除偏差,实现住培工作同质化、优质化发展。(1)强化对评估指标的解读与培训,开展多种形式和渠道的指导和释疑,帮助基地正确理解评估指标的含义,进而准确开展自我评价。(2)改进完善评估指标,对主观指标进行量化,便于基地自我评估,减小偏差。(3)强化基地自我评估相关工作人员的责任心,使其对自我评估偏差结果承担责任[2]。(4)加强评估结果的运用,将评估结果及时反馈给培训基地和专业基地,让基地了解偏差出现的原因,进而改进自我评估的客观性和公正性。(5)建立大数据库,对自我评价明显高于平均值范围的基地,进行重点监测和组织现场评估。(6)要注重加强对示范基地的监督。示范基地除承担自身招收培训任务外,还肩负一定的区域或专业引领带头作用,发挥着区域和行业“标杆”效应,在各方面都应做到领先。因此,对示范基地更应该加强评估监测,防错纠偏,让示范基地真正发挥标杆和引领作用。(7)引入住院医师对基地的评估机制并将结果作为重要评估参考指标。住院医师对基地的评估(360°评估的一部分)是指对培训基地和专业基地制度建设与落实、过程管理、培训质量、保障水平等方面进行评价。应建立单独的住院医师调查平台,并将相关方的调查结果作为基地日常建设和自我改进完善的参考依据,以及国家级综合评估时的重要评估指标。
4 基地自评偏差研究的不足和政策建议
本次研究在国内基地培训质量评价中尚属首次,缺乏经验模式和数据以资借鉴,因此在方案设计、数据采集和分析上都可能存在不足。此外,基地自评并上报在毕业后医学教育网“住院医师规范化培训管理平台”也属首次,同年开展国家综合评估的基地数量也有限,受此限制,自评结果和国家综合评估结果对比的样本量还不够多。另外,统计结果分析还有待深入,以期能更准确找到基地培训质量和自评报告之间的关联。最后,自评偏差的原因尚待进一步分析,并寻找出针对性的解决方法。
为了更好地建立符合我国住培工作需求的评估机制,结合本次研究中尚需改进之处,建议未来从全国住培管理层面采取以下措施。(1)组织基地定期自评并把住院医师对基地的评估纳入自评结果之中。(2)与相关研究机构和专家合作,建立分析模型。(3)建立评估数据长期跟踪分析机制。(4)根据基地自评-他评偏离趋势,定期发布基地自评质量报告,精准指导基地住培工作,为各级卫生健康主管部门住培管理提供参考依据。