基于CIPP模式改进我国艾滋病防治绩效评价体系
2014-04-04于宗富
于宗富,张 朝
(山东理工大学马克思主义学院,山东淄博255049)
科学评价一项工作有利于工作创新,有利于工作规范化,有利于改进机构自身管理,有利于建立公平的竞争机制,有利于资源的合理有效配置,可以为政府和有关部门制定政策提供参考。[1]32-34科学评价我国艾滋病防治工作的绩效,分析工作中存在的问题与不足,科学指导改进工作的方法,促进工作的科学化、有效化、规范化,是艾滋病防治工作的实施者、管理者都不容回避和亟待解决的问题。
一、问题提出
(一)背景
进入21世纪后,艾滋病呈现全球快速蔓延趋势,2013年7月世界卫生组织(WHO)公布的全球十大死因排序中,艾滋病列第6位。我国政府高度重视艾滋病的防治工作,成立了国务院防治艾滋病工作委员会办公室,制定了一系列文件,如《中国遏制与防治艾滋病行动计划(2006~2010年)》(以下简称“防艾十一五”),《中国遏制与防治艾滋病“十二五”行动计划》(2011~2015)(以下简称“防艾十二五”),《中国艾滋病防治督导与评估框架(试行)》(2007)(以下简称《框架》),《中国艾滋病防治督导与评估框架使用手册(试用)》(2008)(以下简称《手册》)。联合国倡导的“三个一”原则在中国已经全面实现,艾滋病的防治工作也取得了举世瞩目的成就。然而,随着防艾工作的深入开展,如何使该项工作健康、可持续地发展,如何提高工作效率,如何提高有限资源的利用率,成为人们关心的重要问题,这些问题的解决与防艾工作绩效评价是密不可分的,所以,对该项工作的绩效评价逐渐成为一个研究的热点。
(二)《框架》存在的问题
目前使用的《框架》由9个核心指标(H1-H9)和8个附加指标(F1-F8)构成,吕柯等人采用定性与定量相结合的方法对指标的应用适宜性进行了研究,他们发现,除了要修改一些指标内容(如H4、H5、H8、F1、F2)、调整一些指标位置(如F6、F7)外,还需要增加反歧视指标、经济学评价指标、满意度评价指标。[2]彪巍等人则对艾滋病防治绩效的第三方评价作了探讨,认为:“第三方评价是艾滋病防治绩效评价正确价值取向的需要,是提高评价真实性与准确性的保证,是提升评价质量和水平的途径。”[3]郭浩岩等人对艾滋病防治绩效进行了经济学评价研究,比较了四种方法(成本分析、成本—效果分析、成本—效用分析、成本—效益分析)的优缺点及其应用范围,认为要根据不同问题而采取不同的方法。[4]
对一项工作进行绩效评价,目的之一是为了证明该项工作的有效性,但这不是评价的最终目的。评价的最终目的是为了更好地开展工作,从而达到预期目标。根据艾滋病防治的目标,我们认为,“强调改进而不是证明(not to prove but to improve)”的“CIPP模式”可能更适用于艾滋病防治工作的评价。
二、CIPP评价模式简介
1966年,美国俄亥俄州立大学教育评价中心的斯塔弗尔比姆(Stufflebeam D.L.)教授创立了CIPP评价模式。CIPP评价模式由背景评价(Context Evaluation)、输入评价(Input Evaluation)、过程评价(Process Evaluation)、成果评价(Product Evaluation)四个部分组成,以四个部分的第一个英文字母组合起来命名。21世纪初,Stufflebeam进一步把成果评价分解为影响评价(Impact Evaluation)和有效性评价(Effectiveness Evaluation),并新增了可持续性评价(Sustainability Evaluation)和可推广性评价(Transportability Evaluation)两个部分,[5]31-62这样,CIPP评价模式就变成了七个组成部分。
Stufflebeam指出:“评价最重要的意图不是为了证明,而是为了改进(The most important purpose of program evaluation is not to prove but to improve)。”[6]283该模式认为,评价就是为管理者、决策者提供有用信息的过程,评价者的任务就是收集、组织、分析和报告有用信息,从而更好地为教育服务。CIPP评价模式是对评价方案从形成、实施到结果的全面评价。与目标评价模式相比,它有三个鲜明的特点与优势:以决策为导向,重视评价的改进功能,有机地整合了终结性评价、形成性评价、诊断性评价等多种评价。
三、CIPP与我国艾滋病防治评价
艾滋病防治工作涉及的范围非常广泛,我国的工作机制是政府组织领导、多部门各负其责、全社会共同参与,实施过程中需要多部门、民间组织、目标人群积极参与,因此对该项工作进行评价所要涉及的范围也是非常宽泛的。凡是有利于预防、控制艾滋病的发生与流行的,凡是有利于保障和提高目标人群身心健康和生活质量的,都可以成为其内容和主题。
联合国艾滋病规划署(UNAIDS)2005年、2010年分别出版了联合国大会艾滋病特别会议(UNGASS)报告——《监督“艾滋病承诺宣言”的落实:核心指标构建指南》(以下简称《指南》),其最新版也将于2014年出版。我国也相应地制定了《框架》(2007)和《手册》(2008),如前所述,《框架》有一些需要改进的地方,特别是随着2012年“防艾十二五”的发布,对《框架》进行修改已成为当务之急。鉴于CIPP评价模式有鲜明的特点和优势,在对《框架》进行修改时可以借鉴。
(一)背景评价(Context Evaluation)
背景评价就是在特定的环境下评定其需要、问题、资源、机会。[6]286-287其主要作用是了解方案实施前的各种准备情况,以便于作出决策。
该环节主要回答的问题是:所需服务的背景情况如何;对方案预期的受益人作出界定并评定其需要,满足这些需要可能遇到的问题和障碍是什么;确定可利用的资源和资助的最佳时机;评定该方案的适用性和清晰度。
1.需要:“需要”是指那些为实现目的所必需的有用的事物。[6]288-289艾滋病疫情、流行形势每年都在发生着变化,产生着新的需要,比如,性传播途径所占比例逐年上升,尤其是男男同性性传播比例上升明显;抗病毒治疗经过多年实践,目前已经成为艾滋病防治工作的重点。[7]因此,防治计划及评价指标也要相应调整,我们建议将《框架》的附加指标F6、F7调整为核心指标。
2.问题:“问题”是指那些在满足需要时必须克服的障碍。[6]290-291开展艾滋病防治工作一定要解决“没人做”、“不会做”、“不愿做”、“不真做”四大问题。
一方面,经过近二十年的发展,我国省、市、县各级政府都设立了专门的艾滋病防治机构,形式上基本解决了“没人做”的问题,但是吕柯等人的研究却发现:“省县两级从事艾滋病防治工作的人员一半以上是兼职的,基层艾滋病防治人员在数量上严重不足。”[8]实际上目前很多县、乡没有专职的艾滋病防治工作人员,在应付上级检查时临时由兼职人员拼凑。长期以来,他们的身份性质不明确、职称评定无归属、薪酬待遇不稳定、发展空间无平台,导致“不愿做”、“不真做”现象泛滥。
另一方面,顺利地进行该项工作,要求必须具备相应的技能和能力,而胡虹等人的调查显示:“我国省县两级,尤其是县级普遍缺乏督导与评估培训和基本技能,数据分析验证、利用等技术能力不足,制定计划、分析和解决问题等管理能力不足。”[9]这种情况致使他们“不会做”。
这些因素是在进行评价时必须要考虑的,建议增加人才队伍建设、督导与评估培训机制的指标作为附加指标。
3.资源:“资源”是指在本地可以获得的专家和服务。[6]292-293进行艾滋病防治时,需要专家传授专业化的知识、技术和督导,还需要有专门的经费支持。韩孟杰等人的调查显示:“省级和县级部门没有专门的督导与评估人员,都没有专门的督导和评估经费。”[10]这些因素制约着艾滋病防治工作的顺利开展,要解决这些问题,仍然需要增加人才队伍建设、督导与评估培训机制两个指标。
4.机会:“机会”是指满足需要和解决相关问题的时机。[6]295-296随着近二十年艾滋病防治工作的开展和实践的探索,尤其是《框架》《手册》试行五年多来,我国的艾滋病防治工作已经积累了宝贵的经验,在此基础上,“防艾十二五”的发布,将是该项工作的催化剂,我国的艾滋病防治工作面临着更大的机会和机遇。
(二)输入评价(Input Evaluation)
输入评价的实质是对方案的可行性和有效性进行评价,即对完成方案目标所需的条件、资源以及各备选方案的优、缺点进行评价。[6]298-299输入性评价的目的是努力形成一个最优方案,尽量创造良好的条件,保证该项工作的有效开展,避免失败和浪费。
该环节主要回答以下问题:比较、选择了哪些方案?选用该方案的理由是什么?放弃其他方案的原因是什么?该方案的合理性、可行性如何?目标实现的可能性有多大?自身情况是否和人力、物力、财力等相匹配,匹配程度如何?
胡虹等人的研究认为,《框架》能比较全面地反映我国2006~2007年艾滋病防治工作的进展和成效。[11]但我国的《框架》是2007年制定的,包括9个核心指标和8个附加指标,而UNAIDS最新的《指南》则是2010制定的,《指南》的核心指标为25个。仅从核心指标的数量来看,两者相差悬殊,有必要对《框架》的指标进行调整。如,H8指标与2005年的《指南》中的相应指标一致,但2010版的《指南》则把该指标分解成了两个独立的核心指标,因此,我们建议把H8分解为两个与《指南》一致的核心指标。
(三)过程评价(Process Evaluation)
过程评价是对方案实施过程进行连续地监督、记录、检查、反馈,以不断调整和改进实施的过程。[6]301-303其目的是为决策者、方案制定者提供反馈信息,为修正方案提供指导,为评估方案提供有效信息,为方案留存、推广提供详尽的记录。
该环节主要回答以下问题:实施过程中遇到的阻碍和问题是什么?这些问题和障碍是如何解决的?方案实施的程序及状况如何?多大程度上达到了阶段性目标?方案是否需要调整和改进,如何调整和改进?
应当指出,评价者不能仅仅是政府部门的领导者,还应包括艾滋病防治的实施者、目标受众以及受益者,而且最为重要的是,要有第三方评价机构。为了保证评价的客观性、公正性、科学性,使评价专业化、规范化、标准化,独立于两方之外的第三方评价机构的介入是非常必要的,我们建议增加第三方评价指标作为附加指标。
(四)影响评价(Impact Evaluation)
影响评价是指对方案影响目标受众短期利益的程度给出评价。[5]43-44影响性评价注重的是评价对象绩效的短期影响,是方案产生长期效果的基础。
该环节主要回答以下问题:方案是否实现了预期目的?实现程度如何?受益者和实际服务对象是否一致?受众的满意度如何?哪些方面效果令人满意,哪些方面需要改进?
艾滋病防治受众的核心是HIV感染者,重点是高危人群,基础是普通人群,也就是说,社会的每一位成员都是艾滋病防治的受众。但人群不同,防治方案及重点也会不同。《框架》中有针对高危人群HIV年度感染率的核心指标,但对于其他人群则没有,我们认为,应当参考《指南》,增加年度总人群感染HIV的比例指标为核心指标。
(五)有效性评价(Effectiveness Evaluation)
有效性评价是对方案实施成果的效用性进行评价,强调对受众长久利益的影响。[5]47-48有效性评价强调的是评价对象绩效的长期效益,是检验方案科学与否的重要指标。
该环节主要回答以下问题:方案实施后多大程度和范围内形成了人人重视该项工作的氛围?与其他同类方案相比,本方案的成效如何?对促进社会成员的身心健康成长,维护社会稳定,促进社会发展的长久影响如何?
艾滋病防治工作不是为了应对评比和检查,而是为了提高感染者的生存、生活质量,降低高危人群的感染率,杜绝普通人群的感染,即“两降一升”(降低艾滋病病死率,减少新发艾滋病病毒感染,提高艾滋病病毒感染者和病人的生存质量)。进行艾滋病防治,需要每个人的参与,只有消除歧视,团结一致,才能共同面对挑战。因此,我们建议增加“两降一升”及防歧视的指标为核心指标。
(六)可持续性评价(Sustainability Evaluation)
可持续性评价是指判定某一方案是否可以制度化地循环使用。[5]51-52可持续性是政府、公民,特别是方案的实施者、受益者、评价者共同关心的问题,以期不断完善、改进,形成一套规范化、制度化的活动方案与保障机制。
本环节主要回答以下问题:该方案有哪些成功之处?未来是否可以持续地实施下去?哪些因素制约着方案的可持续性实施?该方案是否可以循环使用?如何修改完善,使之更好地持续性发挥影响和作用?
要使一项方案具有可持续性,一方面,需要有充足的、持续的经费投入,项目资金来源应该多样化;另一方面,需要有经济学评价,如成本分析、成本—效益分析、成本—效用分析、成本效果分析,对投入和产出进行量化,便于决策者进行综合考虑,作出资源配置和优先决策,避免资源浪费。因此,我们建议增加相关的经济学指标为核心指标。
《框架》中的H1、F1指标只给出了各省、市、县政府艾滋病防治的年度专项经费绝对值,没有参考当地的经济发展水平,建议H1、F1按当地的经济指标进行修改。另,F2指标只要求了社会团体和民间组织开展项目的数量,没有质量要求,不能体现其参与和影响程度,建议F2指标增加质量要求。
(七)可推广性评价(Transportability Evaluation)
可推广性评价是指在可持续实施的前提下,某方案在何种程度上可以应用于其他地方。[5]55-56如果某方案在多次实践中取得了良好的效益,就可以证明该方案是科学、有效的,值得大面积推广。
此环节主要回答以下问题:其他国家、地区对该方案的态度如何?该方案的推广程度如何?在该方案的关注者中,有多少潜在的采用者?其他国家和地区是否具有实施该方案的所需条件、资源?推广的时候,需要进行哪些适当的调整?
一个好的艾滋病防治方案应该能适用于多个国家和地区,但要根据自身的特点有条件、有选择、有变化地选用,不可僵化教条地全盘照搬。一个项目是否具有可推广性,可以考察该防治项目国际获奖情况,其他国家对该方案使用情况的满意度评价等。因此,我们建议增加该项目的获奖及满意度指标为附加指标。
四、分析与讨论
(一)适应国际、国内形势变化,及时更新指标
对于艾滋病防治,联合国提出了“千年目标”。UNGASS的《艾滋病承诺宣言》(2001)和《艾滋病政治宣言》(2006)是全球艾滋病防治工作的纲领性文件,UNAIDS的《指南》(2005、2010)则进一步明确了工作方向。实践证明,《框架》《手册》在艾滋病防治工作中的作用无可替代,“防艾十一五”已经完成,“防艾十二五”正在有条不紊地展开。但随着时间的推移和工作的推进,新问题和新挑战不断出现,例如UNAIDS(2010)提出2011~2015年战略是实现“零”战略目标,即零新发感染、零艾滋病相关死亡、零歧视,提出到2015年要实现10大目标。[12]
我国的《框架》是基于UNAIDS的2005年《指南》构建的,而《指南》在2010年进行了修改,陈任等人对比了《指南》(2010)和《框架》,发现《指南》(2010)中有7个指标是《框架》所没有的。[13]“零”战略目标和10大目标中的一些目标(如“反歧视”),在《框架》中没有涉及。因此,根据国际、国内形势变化,及时更新部分指标,已到了刻不容缓的时候。
(二)增加、调整部分指标,力求对防治工作全面评价
评价一项工作的目的不只是为了证明该项工作的效用,更重要的是为了寻找缺陷和漏洞,以便更好地开展工作。CIPP评价模式“强调改进而不是证明”,非常适合艾滋病的防治督导评价。我们在借鉴国内外相关研究的基础上,依据世界和我国艾滋病防治的最新动向和进展,紧密结合《指南》(2010),从CIPP评价模式的七个环节对《框架》的修改进行了探讨。在背景评价环节,为了提高艾滋病防治人员的能力和素质,应增加人才队伍建设、督导与评估培训机制作为附加指标;为适应艾滋病疫情及流行形势的变化,建议把原来的F6、F7调整为核心指标。在输入评价环节,鉴于我国《框架》的指标与《指南》(2010)已经不匹配,建议把H8分解为两个与《指南》(2010)一致的核心指标。在过程评价环节,为增加评价的科学性、公正性、客观性,建议增加第三方评价指标为附加指标。在影响评价环节,为弥补指标的缺失,应增加年度总人群感染HIV的比例为核心指标。在有效性评价环节,为更好地与工作实际接轨,并与国际防治形势一致,建议增加“两降一升”及防歧视为核心指标。在可持续性评价环节,为达到资源最佳配置,建议增加相应的经济学指标为核心指标,并建议修改H1、F1、F2中的经费指标。在可推广性评价环节,为考察方案的推广范围,建议增加获奖及满意度指标为附加指标。
[1]邱均平,文庭孝,等.评价学:理论·方法·实践[M].北京:科学出版社,2010.
[2]吕柯,陈任,胡志,等.《中国艾滋病防治督导与评估框架(试行)》指标的应用适宜性分析[J].中华疾病控制杂志,2011,(12).
[3]彪巍,胡志,秦侠,等.我国艾滋病防治绩效第三方评价探讨[J].医学与社会,2013,(3).
[4]郭浩岩,孙江平.艾滋病防治措施的经济学评价[J].中国艾滋病性病,2008,(5).
[5]Stufflebeam D.L.TheCIPPmodelforevaluation. Kellaghan T., Stufflebeam D. L.Internationalhandbookofeducationalevaluation. Dordrecht: Kluwer Academic, 2003.
[6]Stufflebeam, D. L., & Madaus, G. F., & Kellaghan, T.EvaluationModels:ViewpointsonEducationalandHumanServicesEvaluation(2nd ed.).Boston:Kluwer Academic Publishers, 2000.
[7]UNAIDS China.2012 China AIDS Response Progress Report[EB/OL]. http://www.unaids.org.cn/cn/index/Document_view.asp?id=775,2012-03-31.
[8]吕柯,石凯,韩孟杰,等.我国省县两级艾滋病防治督导与评估工作人员与工作现状调查分析[J].中华疾病控制杂志,2010,(4).
[9]胡虹,石凯,韩孟杰,等.我国省县两级艾滋病防治人员督导与评估知识与需求的调查分析[J].中华疾病控制杂志,2010,(4).
[10]韩孟杰,石凯,胡虹,等.我国省县两级艾滋病防治督导与评估体系主要方面的调查与分析[J].中华疾病控制杂志,2010,(4).
[11]胡虹,吕柯,熊燃,等.利用《中国艾滋病防治督导与评估框架(试行)》指标评价中国艾滋病防治工作[J].中国艾滋病性病,2010,(3).
[12]陈任,秦侠,胡志,等.防治环境对《中国艾滋病防治督导与评估框架(试行)》指标体系影响的分析[J]实用预防医学,2011,(11).
[13]UNAIDS. Getting to zero: 2011-2015 strategy Joint United Nations Programme on HIV/AIDS(UNAIDS)[EB/OL].http://www.unaids.org/en/media/unaids/contentassets/documents/unaidspublication/2010/jc2034_unaids_strategy_en.pdf.