医学高校大型仪器设备共享绩效评价指标体系研究
2020-07-17张莹吴萍
张 莹 吴 萍
(1.首都医科大学中心实验室,北京 100069;2.首都医科大学公共卫生学院,北京 100069)
大型仪器设备在开展科学研究工作或进行课堂教学,都是必不可少的基础条件。近年来国家非常重视高校的建设,加大了对高校的投资力度,科研与教学资源明显优化,高校不断为社会输送高精尖人才,在推进学科建设、研发科研创新成果等领域做出贡献。20 世纪后期,国家通过多种渠道向各大高校投入大量资金,新近采购了大量具有世界顶尖水平的大型精密仪器设备,在仪器数量飞速增长的同时,仪器的质量水平也有了显著提升,但随之而来的是仪器设备管理未能同步发展,仪器有效利用率低,共享水平有待提高,不能充分发挥仪器对科技创新的服务与支撑功能[1]。本研究在广泛调研国内外大型仪器设备共享情况,通过问卷调查和专家访谈的基础上,应用德尔菲法和层次分析法构建大型仪器设备共享绩效评价指标体系,为高校大型仪器设备的共享管理和效益提升提供科学依据。
1 专家的选择和研究方法
1.1 专家的选择
本研究运用德尔菲法,通常专家人数在15 ~50 人比较合适,咨询结果的精准度和接受咨询的人数呈函数关系,适宜范围内的精准度与参加人数成正比,在人数靠近15 人的时候,人数继续增加对提高咨询结果的准确性没有意义[2-3]。因此,本研究选取17 位专家,专家需对国内外大型仪器设备的管理有深入的研究,有丰富的相关理论知识和实际工作经验。
1.2 研究方法
德尔菲法,采用的是借助电子邮件方式对相关专家进行函询,对评价指标进行筛选;通过层次分析法确定指标体系的权重。
1.2.1 咨询问卷
(1)专家基本情况,包括专家的性别、年龄、技术职称等;
(2)专家权威程度自我评价表。对问题的熟悉程度分为非常熟悉、很熟悉、熟悉、一般、不太熟悉、不熟悉6 个等级。判断的主要依据分为理论分析、实践经验、参考国内外相关资料和直观感受4 类。
(3)大型仪器设备共享绩效评价指标体系咨询表,对各指标重要程度打分,打分标准分5 级:很重要5 分,重要4 分,一般3 分,不重要2 分,很不重要1 分;如果专家认为需要对指标做出增减,则在专家意见栏填写相应指标并说明增减理由。
1.2.2 组织实施
在问卷调查、专家访谈的基础上,结合当前我国大型仪器设备利用和共享的现状对各备选指标进行分析和修订,设计咨询问卷,并进行预咨询,结合专家意见改正问卷中存在的问题,确定了《医学高校大型仪器设备共享绩效评价指标体系咨询表(初稿)》。采用德尔菲法就初步构建的体系指标对专家进行2轮函询,并汇总分析相应结果,采用界值法选取评价指标,确定一级指标4 个,二级指标9 个,三级指标20 个,应用层次分析法计算各级指标的权重。
1.2.3 统计学方法
(1)使用SPSS 18.0 计算各指标重要性的均数、标准差、满分频率、变异系数、回答问卷的积极系数、专家的权威系数和协调系数等。
(2)使用YAAHP 7.0 建立判断矩阵、进行一致性检验及计算各级指标权重。
2 结果
2.1 专家的基本情况统计
表1 专家基本情况
2.2 专家的积极系数
专家的积极系数可选择问卷的回收率(回收率=有效答卷数量/所有问卷数量)代表,这有助于展现出专家对于研究活动的重视性。
本研究通过两轮德尔菲法向同一批专家进行咨询,问卷的回收率均为100%,说明专家重视本次研究并积极参与其中。
2.3 专家的学术水平
专家的学术水平主要依据专家自身的专业技术职称来确定。一般认为,专家的学术水平与其专业技术职称成正比。本研究采用的专家学术水平量化评议表见表2[4]。
表2 专家学术水平量化表
根据表2 得出本次研究所选专家的学术水平平均值为0.835(表3),水平较高。
表3 专家学术水平
2.4 专家的权威系数
专家的权威系数Cr 可由专家做出判断的主要依据Ca 和专家对问题的熟悉程度Cs 两个因素计算得来。
2.4.1 判断依据
Ca 为判断系数,表示专家判断的主要依据,取值详见表4 所示。
表4 专家判断的主要依据及其影响程度量化表
2.4.2 熟悉程度
Cs为熟悉程度系数,表示为专家对问题的熟悉程度,取值详见表5 所示。
表5 专家对判断的问题熟悉程度系数表
2.4.3 专家的权威程度
其中Cr为权威系数,即专家的权威程度;Ca为判断系数,表示专家的判断依据;Cs为熟悉程度系数,表示专家对问题的熟悉程度。
一般来说,按照公式一和表4-5 计算得出的判断系数之和为1 表明对专家判断的影响程度大,判断系数总和等于0.8 意味着专家评判会受到一定的影响,判断系数总和等于0.6 意味着专家判断受影响程度较小。一般专家认为Cr ≥0.70 为可接受信度。
计算得到各一级指标的Cr值如表6 所示:
两轮专家咨询各指标的专家权威程度均高于0.7,其中,科研与利用指标的权威程度最高。
2.5 专家意见的协调程度
通过专家意见的变异系数和协调系数可以判断专家对评价指标的选择是否存在分歧,通常用V 表示变异系数,W 表示协调系数。变异系数代表专家关于指标重要程度的变化情况,即关于指标重要性的认可度,变异系数与专家意见协调程度成反比关系,通常认为小于10%的变异系数为可接受范围。协调系数代表所选专家对各指标作出的评价意见是否趋向一致,协调系数W 在0 ~1 区间内波动,协调系数W越趋向于1,则表示协调程度越高。一般协调系数在0.5 的范围内波动,反之,意味着专家协调程度低。
对两轮专家咨询各指标变异系数计算(表7),第一轮部分指标变异系数大于0.1,变异系数均值大于0.1,表明专家对各指标重要性的认识存在分歧;第二轮所有指标变异系数小于0.1,变异系数均值小于0.1,表明专家对各指标重要性的认识趋向一致。
表6 两轮专家权威程度统计表
表7 两轮德尔菲专家意见变异系数比较表
对两轮德尔菲专家意见进行协调系数计算(表8),两次函询结果,分别求得4 个一级指标协调系数且进行卡方检验,均得到认可,后一轮协调系数W 都比前一轮系数值大,表明经由前后两轮函询过后,专家协调度均有一定提升。两轮协调系数W 的检验P值均为0.000,小于0.001,可靠性高。
表8 两轮德尔菲专家意见协调系数比较表
2.6 指标的筛选
根据两轮专家咨询结果,并结合界值法筛选评价指标(表9)。
表9 两轮专家咨询筛选指标界值表
初步拟订的医学高校大型仪器设备共享绩效评价体系维度是4 个,具体指标24 个。根据回收调查表统计结果和界值法准则,共删除“支付流程”与“网站响应速度”两个指标。“服务态度”与“服务质量”两个指标内涵有重复,建议合并为“服务质量”1 个指标,并细化内涵,便于统计。
第二轮调查表按照第一轮调查表21 项三级指标进行挑选根据回收调查表统计结果和界值法准则,删除 “大型设备共享服务单位机时数”这一指标。因此,两轮调查结束后,三级指标修正为20 个。
2.7 指标权重的设置
通过德尔菲法的一轮和二轮专家函询,最终专家意见达成统一,确定了本研究使用的医学高校大型仪器设备共享绩效评价指标体系,利用YAAHP7.0 建立层次结构模型,在此基础上构建判断矩阵,通过一致性检测并计算各级指标权重(表10)。
3 讨 论
3.1 评价指标的选取
本次研究的核心工作即为选择评价指标,大型仪器设备是由各种零部件组成的复杂的有机整体,是一个多维复杂系统,涉及到很多相关指标,不仅包括经费、成果等硬性指标,同样涉及设备运行、平时管理等指标数据,但是真实环境下无法评价所有指标,应结合学校发展的战略目标和大型仪器设备的共享现状进行评估。指标的选取应符合实用科学、系统性、目的性、融合定量定性等原则,择取出的指标应当满足客观独立性、特异灵敏性以及代表性等特征,该部分工作主要借助于德尔菲法有序进行。
德尔菲法起源于20 世纪50 年代,美国道格拉斯与兰德公司一同协作研究而成,该种方法属于咨询决策技术之一,基本上能够用于全部领域,核心是在匿名条件下多次函询征求专家建议。为不让绩效评价精度受到专家个人因素影响,此方法核心是专家指标选取的代表性,权威性与专家评价预估意见的统一性。
表10 医学高校大型仪器设备共享绩效评价指标及权重
3.1.1 主要评价指标的代表性
(1)专家的积极性
运用专家咨询表中的问卷回收率来反映专家的积极系数,即用回收有效答卷数与所有发出问卷数比值表示回收率,能够显示出专家学者关心本次研究的程度,这是统计分析专家建议的前提条件。艾尔·巴比表示,通常情况下,分析报告的最小回收率为50%,回收率达标的占比为60%,回收率非常好的占比为70%[5]。本次两轮问卷调查的有效回表率都是100%,这就表示被采访专家非常积极参与本次研究,回收率能满足统计学所需样本数量。
(2)专家的代表性
所选的专家需对国内外大型仪器设备管理有深入的了解,有丰富的理论知识和实际工作经验,并且能积极参与到本研究中来。在择取专家期间并未采取随机抽取的方式,而是要根据目的选取,评定专家学术水平应当根据专家专业技术职称评定。一般认为,专家的学术水平与其专业技术职称呈正相关。本研究选取某医学高校及其附属医院在大型仪器设备使用与管理方面有丰富经验的学院PI,主管平台主任/副主任和科技处/设备处管理人员,通过专家学术水平量化评议表(表2)计算得到本研究专家学术水平平均值为0.835,水平较高。
(3)专家的权威程度
专家权威度是按照专家自行填写的“专家熟悉问题情况表”与“判定根据与影响力量化表”中所得资料计算得出。通过两轮专家咨询分别计算得出四个一级指标的权威程度平均值均高于0.7,表明专家对所函询的问题较为熟悉,指标的可靠性较高。通常以为权威度≥0.7 时,就能够接受,所以针对本次研究内容,专家权威度较高,结果值得信赖。
(4)专家意见的协调程度
专家意见协调度即为专家对评价指标的选择是否一致,用变异系数V 和协调系数W 来衡量。本研究经过两次函询后,所有指标变异系数均小于0.1,表明专家对各指标重要性的认识趋向一致。分别求得四个一级指标协调系数且进行卡方检验,均得到认可,后一轮协调系数W 都比前一轮系数值大,表明经由前后两轮函询过后,专家协调度均有一定提升。
3.1.2 评价指标的选取与修改
首轮专家函询后,对各指标重要性评分进行计算,结合界值法选择指标,即算数均数高于4.21,同时变异系数低于0.16,并参考专家意见一共调整删减了三级指标三项。
次轮专家函询后,对各指标重要性评分进行计算,结合界值法选择指标,即算数均数高于4.42,同时变异系数低于0.07,并参考专家意见一共调整删减了三级指标一项。
3.2 权重的确定
权重指标反应了每个指标对总体综合评价结果所做出的贡献,也是评价今后进行此类活动选取的重点标准。权重确定形式多种多样,总结而言大体可分为两种,即客观与主观定权法,在此之中,主观法主要涵盖三种,即博弈论分析法、成对比较法与专题讨论法等。而客观法主要有熵值法、秩和比法、层次分析法和模糊综合判断法等。不管上述的那种分配权重办法,都属于“双刃剑”,有利也有弊。
本次研究选择了层次分析法来计算指标权重,各个指标权重数值反映了专家对全部指标间重要性的关系,其中专家的选取是结合评价指标的选取中德尔菲法同时进行的。
4 结 论
在运用德尔菲法等一系列研究方法建立了医学高校大型仪器设备共享绩效评价指标体系,研究发现定量与定性相结合的量表法是一种简便易行,同时又可以比较全面、准确、客观地评价大型仪器设备共享绩效的方法。通过结果分析可以从总体角度了解医学高校大型仪器设备共享的现状,并从中发现在仪器共享服务中产生的不足,可以对存在的问题针对性地提出改进的建议和措施,借助于高校的激励制度推动科研团队建设,从而让大型仪器设备共享效益有所提升。