基于程序逻辑模式的公益项目绩效评估研究
——以宁波市公益服务项目为例
2019-03-21马洪波
马洪波
(宁波市之江社会工作服务评估与研究中心,浙江 宁波,315000)
一、问题提出
随着政府购买社会服务力度的不断加强,公益类的社会组织正在蓬勃发展。然而,目前社会组织所开展的项目还没有一个规范性的、可量化的、可操作性强的评估方法,尤其缺乏逻辑严密、概念清晰地设计和评估公益项目的手段。所以,在实践中常常把“产出当作成效,活动等同于项目”,而不是把活动看作一系列用以达到既定目的程序的组成部分。[1]这造成了三个问题:一是政府在购买、评估公益服务类项目时,没有具有权威性的规范,公信力有所欠缺;[2]二是公益项目在设计、运行管理和评估中,缺少“投入—产出—成效”这样层次明晰的设计评判框架,无法及时地判断项目完成进度和工作绩效;[3]三是接受项目服务的目标人群是否确实地获益也较难确定。[4]由此可见,公益服务确实需要可操作性强的绩效评价工具,以推动公益项目服务精准度和有效性的提高,激发公益组织的发展潜能,改善公益性社会组织的服务成效,最终提升被服务对象的获得感和幸福感。[5]
20世纪80年代以来,绩效管理与评估开始成为一个流行的概念。Kast认为,绩效应该包括效果、效率、组织成员的满意度。效果是指产出成果的实际影响;效率是指投入资源的利用程度,有效率并不代表有效果,有效果也并不保证高效率。[6]李永友认为,绩效是效益、效率和有效性的总称,它包括行为过程和行为结果。行为过程就是运行是否根据预设的计划,合规合理;行为结果就是投入—产出比是否合理,行为的结果是否达到了预期的目标,以及产生(短期—中期—长期)的影响。[7]而Mcphee和Champagne以及Story和Sisson则提出了绩效管理循环理论,从系统的高度来分析和把握绩效管理与评估,十分重视组织的绩效。[8]
本文认为结合绩效管理理论来探索推广适用于公益项目服务绩效的评估方法,对提升公益项目服务质量具有重大的理论意义和显著的现实意义。
二、理论框架与研究方法
(一)理论框架
1. 逻辑框架方法
1970年美国国际开发署(USAID)开发并使用一种设计、计划和评价的方法,称为“逻辑框架方法(Logical Framework Approach)”。“逻辑框架方法”是一种概念化论述项目的方法,它基于项目逻辑模型建立,即用简单的框图来清晰地分析一个复杂项目的内涵和关系,是一种设计、管理和评估项目的方法学,也是一种通过识别并分析给定的环境来定义目标以及改善现有环境的技巧。
目前大部分的国际组织把它作为社会发展项目的计划、管理和评价方法。香港理工大学的陈锦棠博士长期专注于社会服务评估研究,曾发表过多篇学术论文论述有关公民社会、第三部门、服务评估、人力资源管理,对程序逻辑模式应用与服务社工设计与评估领域有独到的研究。
2. 程序逻辑模式的原理
(1) 基本理论。程序逻辑模式(Program Logic Model)中“程序”与“逻辑”是两个关键环节。程序是指项目运行的环节及其流程,逻辑是指环节及其流程之间的关系。程序逻辑模式认为,项目发展必须依据设定的程序,程序的环节之间必然具有逻辑性。如果环节不依据流程或流程之间不具有逻辑性,说明项目的设计和运行可能存在问题。
程序逻辑模式将形态各异的评估内容归纳为“处境分析”“理论假设”“资源投入”“活动/服务”“服务成效”“外在环境因素”“各环节的逻辑联系”等七个环节。
(2)主要环节。程序逻辑模式框架图所涉及到的七大主要环节。
处境分析(Situation):即项目的背景阐述。例如“协助留守儿童”项目的“处境分析”这样描述项目的背景:“社会支持缺乏”“家庭教育不当”“学习成绩下降”“亲子沟通不良”等。
理论假设(Assumptions):指项目的理论支撑,它关系到“项目的科学性和有效性”的问题。如“人具有发展的潜能”是我们进行助人活动获得成效的理论依据。理论假设是项目灵魂,是项目成败的一个十分关键的因素,所以必须是合理可行的。
环境因素(External Factors):指推行项目的服务或活动时的外在因素,是项目设计者和运行者所控制不了的外部环境,包括但不限于经济、社会、政治、文化及社区因素等。例如项目的资助企业可能由于经营失误而倒闭,引起项目后期的资助款项落空。
资源投放(Inputs):指项目实施过程中所投入的(人、财、物)等各种资源,它是项目成功运行的必要保障,是项目运行的最原始的起点。资源的投放与成效的达成通常具有一定的正相关。
活动/服务(Outputs):“投入”资源后,“产出”就是活动/服务,通过向服务对象提供一定数量、形式与内容的活动/服务来实现既定目标。以协助留守儿童项目为例,项目的服务活动是指社工的入户探访、面询、同辈辅导、支持小组、互动讲座等服务的次数和规模等。投入是否充分,产出是否合理,正是程序逻辑模式重点关注的问题。
服务成效(Outcomes):指通过资源的“投入”、活动/服务的“输出”,相应地为服务对象带来的获益。它是衡量项目成功与否的关键性指标,可分为短期、中期和长期三个维度。短期的成效与“学习”有关,服务对象通过学习,很快地在知识和感觉层面获得了提升,如青少年网络成瘾者认识到沉溺网络的的危害性,通常为数天至数月。中期的成效与“行动”有关,通过学习提高认识后,进一步的行为训练将改变不良的行为习惯,如服务对象认识了网络成瘾的的危害以后,开始逐渐减少上网的频次,通常在数月至半年之间。长期成效与“状况转变”有关,是指服务对象的问题得到基本的解决,如青少年网瘾状况得到了有效的遏制等。长期成效通常需要一年或数年的时间才能呈现,它是项目的价值所在,也是项目所追求的终极目标。
各环节的逻辑联系(Logic links):运用好程序逻辑模式的重要之处,是必须正确把握各环节之间的逻辑联系。其逻辑思路是在项目初期或规划期,以“服务成效”为起点,从右至左,来反推或设定“活动/服务”与“资源投放”,以确保“服务成效”的达成;在项目的评估期,以“资源投放”为起点,从左至右,来考察“资源投入”与“活动/服务”、“活动/服务”与“服务成效”的适配性。当然,毋庸置疑,前提条件是处境分析、理论假设和外在因素分析等这些环节必须做到位。
在七大环节的具体内容中,处境分析、理论假设、外在环境因素等诸项必须言之有物,有根有据;资源投放、活动/服务以及服务成效这三大环节的具体内容必须全方位覆盖。以“协助留守儿童”项目为例,其全部内容可能是半年内社工入户探访7次、面询24次、同辈辅导6次、支持小组7次、互动讲座4次,学习体验7次。这些活动的详细内容设定及开展进度,必须依据相关理论的指引,通过大量的专业调查,运用定性和定量的方法分析来确定。
(二)研究方法
本文主要采用案例分析法,依托宁波市之江社会工作服务评估与研究中心对项目的评估实务,选取具有普遍性意义和典型特征的公益项目作为研究对象,运用程序逻辑法的框架和方法从“处境分析、理论假设、环境因素、资源投放、活动服务、服务成效”六个方面对其进行深入剖析,对其“资源投入—服务产出—服务成效”三个维度进行针对性评估。
人类已经进入了数字信息时代,而有许多老年人因为年龄和受教育程度等原因被排斥在外,不能享受信息技术所带来的便利,特别是信息技术的发展还占据了有限的服务资源,老年人因此也被排斥在相应的服务之外,与信息社会格格不入,产生了数字鸿沟。基于这样的社会问题,本项目拟通过对老年人使用智能手机的教学活动,以方便老年人的日常生活,充实老年人的精神世界,来缩小乃至填平老年人与信息社会的数字鸿沟,使老人更好地融入信息社会,共享人类信息技术的成果。
三、评估研究
本研究借助老年人智能手机教学项目的案例,来展示程序逻辑模式如何应用与公益项目的设计、运行管理及绩效评估。
(一)程序逻辑模式图
老年智能手机教学项目的程序目前模式框架图见图1。
图1 老年人智能手机项目程序逻辑模式框架图
(二)主要环节分析
1. 处境分析
目前老年人对智能手机的学习存在强烈的需求,他们渴望像年轻人一样熟悉和使用智能手机,在信息化时代享受便利生活,从而提高自己的生活品质。但限于经济条件和节俭习惯,老年人主动参加收费学习的动机不强,社会中这类活动又很少;另外,由于子女工作繁忙,老年人学习智能手机的渠道和机会确实不多,因此本项目很好地回应了这一强烈的现实需求。
2. 理论基础/假设
美国心理学家Albert Bandura着眼于观察学习和自我调节在引发人的行为中的作用,重视人的行为和环境的相互作用,探讨个人的认知、行为与环境因素三者及其交互作用对人类行为的影响,提出了社会学习理论。[9]而英格兰人类学家Radcliffe Brown于1940年创立社会网络理论,其核心概念是社会支持,是指人们意识到的或实际的由社区、社会网络和亲密伙伴提供的工具性或表达性的资源,这些资源呈现出网络状,并能满足人们的社会需要。[10]根据上述理论,本文提出三个假设。
假设一:如果为老年人提供学习智能手机功能的机会,那么老年人就能够掌握智能手机的使用方法。
假设二:如果老年人掌握了智能手机的使用方法,那么老年人就能够提升自己生活品质,跟上时代的步伐。
假设三:如果老年人跟上了时代步伐,那么社会的信息鸿沟将会缩小乃至基本填平,社会就会更加和谐。
3. 服务成效
项目的短期成效:主要体现在老年人的认知、知识、态度和技巧改变的层面,通过学习老年人调整了认知,增强了自我效能,更有信心了;通过活动老年人学到了智能手机的使用知识和操作技巧。
项目的中期成效:主要体现在老年人的行动和实践层面,老年人能熟练地掌握微信、滴滴打车等实用性的App了;老年人能用手机熟练地进行视频聊天了。
项目的长期成效:主要体现在老年人现实状况转变的层面,活动结束后老年人的性格更开朗了,社会交往也更活跃了;老年人用习得的知识和技能去帮助其他的老年人,使公益项目实现了从“助人自助”到“自助助人”飞跃,公益星火得以传播。
4. 活动/服务
2015—2016年共有13场活动,覆盖4个街道、5个社区以及市老年大学。服务学员465人次,120名志愿者参与,直接受益人群465人次,间接受益人群约980人。活动场地设置在相关社区的老年活动中心和宁波市老年大学的课堂。
在服务内容上深入浅出,教学课程被分为二类,一类是普及型通识讲座,包括智能手机基本特点、智能手机常用App简介、短信和微信使用方法、文字输入方法、新闻浏览、视频播放、天气查看等常识以及通讯录管理。第二类是深入提高课程,包括手机银行、手机理财、导航服务、大众点评、滴滴打车、航班管家、美图秀秀等App的使用。
在服务方式上点面结合,既有面上讲解,又有一对一指导服务。为了扩大受益面,志愿者在社区和市老年大学开设了普及型的讲座;为了提高服务的效果,志愿者还为老年人提供了一对一的指导服务。志愿者对服务对象分层分类,对于普通社区老年人,根据其文化层次不高、学习能力一般的实际情况,进行普及型知识讲座;对于高端社区和市老年大学的老年人,根据他们文化层次高,生活需求多等特点,重点讲授提高类课程。
5. 资源投放
社工2名,志愿者120名;资金3万元;时间为期一年;办公场地;办公用品;生活用品。
6. 外界因素/风险
问题1:社区及老年大学的工作时间与大学生志愿者上课时间冲突。建议扩大外招志愿者的比例,建立志愿者信息库,采集志愿者的时间信息,并分类管理。
问题2:信息不对称,导致活动开展有困难。服务对象的情况发生变化,工作员无法及时获得信息。建议建立辖区内各街道社区的信息库,包括其各方面的需求,并且不断实时更新,以此来匹配两方之间的信息,达到更优质的服务效果。
问题3:团队成员的环境发生变化,公益热情消退,难以保持其活动的可持续性。建议评选优秀志愿者,发放荣誉证书,以资激励。
(三)成效评估
成效评估主要从资源投放、活动/服务以及服务成效三个方面进行评估。
1. 资源投放
资源投放及其达到情况具体见表1。
表1 资源投放与达成情况
2. 活动/服务
活动/服务与达成情况具体见表2。
表2 活动/服务与达成指标及达成情况
3. 服务成效
服务成效具体见表3。
表3 服务成效与达成指标及达成情况
(四) 总结与讨论
纵观上述项目的设计—实施—评估的过程,“程序逻辑模式”可以让项目团队有系统地寻找有效达成服务成效的方法,通过不断地以成效为本的实践,建构出有效的活动程序,达成服务成效。在这个过程中体现了四项原则。
1. 以终为始
项目计划期的思路是“以终为始”,沿着“成果—产出—资源投入”的方向进行思考和筹划。在案例中为了达到老人服务的短期、中期和长期的成效,相对应地招募了适切的服务对象,覆盖到了一定的区域,设置了一定数量的培训活动。这体现了项目运作方“问题导向、精准定位”的工作思路,从实际情况看项目设计达到了项目的目标。
2. 以成效为本,逻辑导向
在项目评估期,通过把握程序逻辑模式框架图中各环节之间的逻辑联系,各部分之间以成效为核心,表现为“如果投入了这些资源,就可以实施这些活动,就相应有这些成效”的关系。上述案例中投入了设定的人力、财力、物力,通过检视后续的每一个环节,看到了活动输出超额完成了服务指标,服务绩效也达到或略微超过了预定的目标。
3. 有根有据,环环相扣
程序逻辑模式各环节之间的逻辑关系相对稳定,尤其是“成效—服务—资源”这三大环节是一个互为前提、环环相扣的关系,这是运用程序逻辑框架法做好“老年人智能手机教学项目”的关键点。因此,该项目在实施过程中,基本上做到了有根有据、环环相扣,根据服务成效的设定,配置了服务的活动量和服务人数,相应地投放了社工与志愿者的人力资源和资金等物力资源。在项目运行过程中,资源投入、服务提供、成效之间的方向以及速度、规模、程度、大小等基本维度都能协同一致,没有出现大的问题。这可以从项目的资源投放、活动设置、成效体现的契合度找到答案。
4. 六大步骤,步步深入
上述“六大步骤”在案例中基本做到了环环相扣、步步深入。投入资源、开展活动、测量指标与方法都是依据成效要求,在大量的数据收集、整理和分析的基础上确定。该项目的收集数据过程,运用了问卷调查的“前测+后测”,通过建立基线,进行定量分析;同时也结合了小组座谈和个别访谈的方法进行了定性分析,做了细致的数据收集、整理和分析工作。
综上所述,程序逻辑模式对公益服务项目计划与评估确实具有极大的帮助,程序逻辑模式的上述特点,使“老年人智能手机教学项目”从资源投入—服务过程—服务绩效全过程、大纵深地分析与评估,呈现出较强的专业性和有效性。
四、反思与建议
本文以宁波市“老年人智能手机教学项目”为例,通过运用逻辑框架法为社会组织的项目设计提供了可操作性的工具,使公益项目建立相应的逻辑模型,清晰地分析项目复杂的内涵和关系;也使社会组织的自我评估成为可能,协助项目团队更好地区分“项目—活动”和“产出—成效”的联系与区别,有利于服务绩效的提升,改善社会公众对公益项目管理松散、绩效低下的印象。
毋庸讳言,程序逻辑模式也有其不可避免的缺陷。其一,虽然它逻辑关系清晰,然而这是基于“单一线性”基础上的关系,在许多情况下事物间并不完全是这种“单一线性”关系,可能是多种因素共同作用的结果。如案例中,老年人学习智能手机的进步,可能还有其家人的帮助;学习成绩不佳,除了项目本身的影响以外,可能还有老年人自身身体不适的原因,现实中的变化往往是多因素共同作用的结果,这就是程序逻辑模式的局限性和不足之处。为了克服上述缺点,我们建议辅助采用其他的评估方法,如问题树、目标树和思维导图等工具来弥补。其二,逻辑框架法的“目标”和“直接目的”两者的层次,不具有很强的区分性,有些情况下容易混淆,或者有可能会产生重叠,这将会影响绩效指标的设定。逻辑层次的递进在一定程度上会受外部条件的影响,当外部条件发生变化时会影响项目绩效的完成,而外部条件是项目所不可控制的因素。这种情形目前还缺少针对性的方法,我们建议着重运用逻辑框架法的思想方法,不追求其形式。
尽管如此,程序逻辑模式的优越性是显而易见的,虽然也有其不可避免的短板,但仍然不失为对公益项目进行绩效评估的实用工具,它独特的优势是其他评估工具所无法取代的。因此,建议以逻辑框架法为基础,建立完整的公益项目服务绩效评估体系,把逻辑框架法贯穿在整个项目的设计和评价周期。项目前期运用逻辑框架图设计各逻辑层次的绩效标准,为后续的评估树立标杆和尺度。在项目的后期,运用逻辑框架法确定项目的实际绩效,实现以项目服务对象的实际获益为最终目标的评估导向,实现“资源投入—服务输出—项目成效”三个环节互为因果、环环相扣的效能,最终推动公益项目服务绩效持续的提升。