临床类别医师资格实践技能考试的内容效度研究
2016-06-05李国建朱智威
李国建 朱智威 何 惧
临床类别医师资格实践技能考试的内容效度研究
李国建 朱智威 何 惧
医师资格考试是依据《中华人民共和国执业医师法》举行的卫生行业准入考试,对保证医师准入质量具有重要作用。本文采用专家判断法评价某年度临床类别医师资格实践技能考试第一站病例分析试题内容与临床实践的相关性、在临床实践中的运用频率以及与本站考试目标的契合程度,为临床类别医师资格实践技能考试的内容效度提供证据。
医师资格考试;实践技能考试;内容效度
1 背景
医师资格考试依据《中华人民共和国执业医师法》举行,是评价申请医师资格者是否具备从事临床医师工作所需的专业知识与技能的法定国家考试制度,对保证医师准入质量、保护人民群众健康发挥了独特而重要的作用。医师资格考试分为实践技能考试和医学综合笔试,考生只有通过实践技能考试才具备参加医学综合笔试的资格。鉴于医师资格考试的高风险、高利害性,收集该考试内容效度方面的证据一直是考试机构非常关注的工作内容。内容效度指考试内容对于应测内容的代表性程度。实践技能考试第一站病例分析考核的主要目的是考查应试者综合运用所学知识分析和解决临床问题的能力,特别是对内外妇儿各科常见、多发病的诊断与处理能力,是作为一个合格医师所必须具备的基本技能。
本文采用专家判断法,对某年度临床类别医师资格考试实践技能考试第一站病例分析部分的测试内容进行分析,评价考核内容与临床实践的相关性、在临床实践中的运用频率以及与本站考试目标的契合程度,并分析这些试题的估计难度和实测难度的相关性,收集内容效度证据,同时为进一步提高试题质量提供数据支撑。
2 研究方法
选取某年度医师资格考试实践技能考试病例分析部分的63道试题,试题内容涵盖考试大纲要求的所有专业,请24位专家分别独立对每道试题进行审查,并从四个方面进行评估判断。24位专家均来自临床教学医院一线,从事临床工作10年以上,具有丰富的临床和教学经验。其中副教授8人,教授16人。涉及专业包括内科(呼吸、消化、心血管、神经内科、风湿、血液、内分泌、传染)、外科(普外科、胸外科、泌尿外科)妇产科和儿科。为确保专家评判的客观性、降低专家背景对评判造成的偏差,专家成员均选自国家医学考试中心专家数据库,代表了全国的不同区域和医疗实践的不同专业,20%的专家曾经参与过所判断试题的命制工作,其余80%的专家未参与过所判断试题的命制和审校工作。
专家判断的具体内容为:①试题考试内容与临床医学五年制本科毕业后一年考生的临床实践的相关程度,分为完全相关、基本相关、不相关3个评价等级;②试题内容在临床医学五年制本科毕业后一年考生中的临床实践运用频率,分为高频次(一周一次或更多)、中频次(介于高、低频次之间)和低频次(一年一次或更少)3个等级;③试题内容与本站考核目标的契合度,设置完全契合、基本契合、不契合3个等级;④试题难度。专家以临床医学五年制本科毕业后1年考生中为目标考试对象进行预测难度判断,难度由高至低设置1~9级。
本文中试题的实测难度(P)指全部应试者中答对该题的人数,用百分比表示,P值越高,难度越低。因为实践技能试题为主观型试题,其难度的计算采用平均数方法,即(式中P表示难度指标,X表示所有考生在这道题上的平均得分,K表示这道题的满分)
统计专家判定结果,以ACCESS软件建立数据库,使用SPSS 10.0软件进行统计分析。
3 结果
3.1 测试内容与临床实践的相关性
24名专家判断试题考查内容与临床医学本科学生毕业后一年临床工作的相关性,共回收问卷1 512份,专家判断结果见表1。通过专家判断,认为某年度实践技能考试病例分析试题与我国临床实践完全相关的占81%,基本相关的占16.8%,不相关的占2.2%。按照试题的实测难度将64道试题分成高、中、低等难度三组,经统计学检验,三组试题的测试内容在与临床实践相关程度上各组间存在显著差异。专家认为低难度组的试题与临床实践的相关性更高。
3.2 测试内容在临床实践中的应用频率
专家判断试题内容在临床工作中的使用频率,共回收有效问卷1 512份,判断结果见表2。根据专家判断,35.7%的测试内容在临床上属于高频次使用的技能,55.2%的内容属于中等频次应用,9.1%属于低频次应用。总体来说,大多数测试内容在临床上的应用频率较高。经统计学检验,高、中、低等难度的三组试题的测试内容在与临床应用频率上各组间存在显著差异,低难度组的测试内容在临床应用上更为频繁。
表1 专家判断某年度实践技能考试病例分析试题测试内容与临床工作的相关程度
3.3测试内容与考试目的的契合度
专家根据临床教学经验判断试题内容与考试目的的契合度,共回收有效问卷1 512份,判断结果见表3。根据他们的判断,77.1%的测试内容与考试目的完全契合,22.8%为基本契合,与考试目标不契合的仅占0.2%。经统计学检验,高、中、低等难度的三组试题的测试内容在与考试目标的契合程度上各组间存在显著差异,低难度组试题所考查的内容与考试目的的契合程度更好。
3.4 试题预测难度与实测难度的相关性
专家估计64道试题的难度系数平均值为0.770,其实测难度的平均值为0.615。
专家估计难度与实测难度的散点图如图1所示,基本呈线性相关。进一步对两者相关性进行分析,计算Pearson相关结果为0.675。表明专家对试题难度的估计与实际考试试题难度存在强的正相关关系。
图1 专家估计难度与实测难度的相关性
4 结论与思考
医师资格考试的结果决定考生能否具备执业资格,政府、用人机构和考生都高度关注其内容效度。Monica M.Cuddy等曾采用专家判断法评价美国医师执照考试(USMLE)第二站CK考试内容的临床相关性以及与考试目标的契合程度,作为考试内容效度的佐证。临床实践本身是一个十分复杂的过程,实践技能考试在考查考生临床基本技能和临床思辨能力方面具有笔试不可比拟的优越性,其内容效度主要取决于能否利用各站考试的结果判断考生是否具备从事临床医疗工作的基本技能。因此,本文选择具有丰富临床经验的专家通过判断每道试题与临床实践的相关性、临床应用频率和与考试目标的契合程度,为医师资格实践技能考试的内容效度提供证据。
表2 专家判断某年度实践技能考试病例分析试题测试内容在临床工作的应用频次
表3 专家判断某年度实践技能考试病例分析试题测试内容与考试目标的契合程度
4.1 测试内容与临床实践的相关性好
医师资格考试以临床医师岗位胜任力为导向制定了准入基本要求和考试大纲,其实践技能考试的内容紧紧围绕毕业后一年考生的临床工作岗位需求。根据考试大纲,病例分析部分的试题以临床常见病的诊断和处理为主。在优质的试题开发专家团队的保障下,经过多轮试题审校,制定了每年实践技能考试考生用题卡和考官评分标准。由表1可见:某年度实践技能考试病例分析试题与我国临床实践完全相关的占81%,证明专家团队命制的试题与临床实践高度相关,符合临床工作岗位需求。
4.2 大多数测试内容在临床中应用频次较高
医师资格考试的性质和目的决定了其考试内容以“基础理论、基本知识、基本技能”为主。临床技能考试的考查重点是考生是否掌握临床执业所需的基本技能。因此,考试内容多以临床常见和重要的操作技能为主。由表2可见:某年度实践技能考试病例分析部分所测试的内容仅有9.1%属于低频次应用,大部分试题考察的是在临床中经常使用的技能。
4.3 测试内容与第一站的考试目标契合度高
所有参与专家判断的专家均为医师资格考试试题开发专家委员会成员,熟悉医师资格考试的准入标准、考试大纲,参与过医师资格考试的命题,或作为考官担任过实践技能考试执考工作。同时,他们均是在一线从事临床工作、有着丰富执业经验的专家。根据他们的判断,77.1%的测试内容与考试目的完全契合,22.8%为基本契合,表明试题质量较高,基本达到了实践技能考试第一站的测试目标。
4.4 专家对试题难度的把握较好
实测难度高的试题与低难度组试题相比,无论在与临床实践的相关性、应用频次,还是与考试目标的契合度方面均略差,因此,提示命题中应当适当控制高难度试题的比例。
专家估计难度与考生实测难度的相关性分析,具有临床及教学经验的专家对临床医师资格考试实践技能考试第一站病例分析部分试题难度的估计与五年制医学本科毕业后一年群体的实测难度高度相关,说明专家对试题难度的把握能力强,反映有丰富临床和教学经验的专家团队,对临床教学现状、考生能力、考试目的、考试内容的把握能力值得信赖。这一结论提示我们,完全可以在考前组织具有权威性和代表性的专家团队,对试题难度、与临床实践的相关性、临床应用频率以及与考试目标的契合度进行判断,删除难度过大、与临床实践相关性低、与考试目标的契合度差的试题,提高命题质量。
总体来说,经过专家判断,绝大多数试题内容与临床实践高度相关,在临床实践中频繁应用,与考试目的契合度好,说明考试内容符合考生临床工作实际需要,符合岗位对人才的要求,符合考察临床常见病的诊断和处理的考试内容要求,符合考察学生应用所学知识处理常见临床问题的考试目的,为临床类别医师资格实践技能考试的内容效度提供了有力的证据。
[1]燕娓琴,谢小庆,译.教育与心理测试标准[M].沈阳:沈阳出版社,2003:60-81
[2]卫生部医师资格考试委员会.医师资格考试大纲(2013版)[M].北京:人民卫生出版社,2013.
[3]Monica M.Cuddy,GF Dillon,BE Clauser,Assessing the validity of the USMLE step 2 clinical knowledge examination through an evalu-ation of its clinical relevance[J].Academic Medicine.October Sup-plement,2004,79(10):43-45.
[4]Smith I L,Hambleton R.K.Content validity studies of licensing ex-aminations[J].Educational Measurement:Issues and Practice,1990, 9(4):7-10.
Research of Content Validity for Clinical Skill Test of National Medical Licensing Examination
LI Guojian,ZHU Zhiwei&HE Ju
National Medical Licensing Examination is a vocational qualification test carried out following Law on Practicing Doctors,which has played important role in regulating management of medical behavior and improving the quality of medical service and people’s health.In order to accumulate content validity evidence for clinical skill test of National Medical Licensing Examination(NMLE),experts were asked to view the test paper and complete survey questions related to the clinical relevance,frequency used in clinical practice and appropriateness of test content of clinical skill test.
National Medical Licensing Examination;Clinical Skill Test;Content Validity
G405
A
1005-8427(2016)02-0009-5
李国建,女,国家医学考试中心,主治医师,主任科员(北京 100097)
朱智威,男,中国医科大学,硕士研究生(沈阳 110122)
何 惧,女,国家医学考试中心,副研究员,处长(北京 100097)