人文社会科学研究成果评价指标体系研究
2009-10-20任全娥
任全娥
摘要评价指标体系是评价目标的细化与操作化,人文社会科学研究成果评价指标体系的设计原则是科学性、操作性与关联性,评价指标构成要素包括创新程度、完备程度、价值含量(包括学术价值含量与社会价值含量)与研究投入四个方面,其中前三项是成果质量评价指标,只有结合研究投入进行综合分值合成,才是对研究成果的最终价值评价。
关键词人文社会科学科研成果评价指标体系
1评价指标体系概述
1,1评价指标的概念与特点
任何一种评价工作都需要确定科学的评价目标,这是进行评价的基础。只有确定科学的评价目标,才有可能对评价对象进行全面评价。成果评价目标,是指成果评价本身要达到的境地,是衡量科学研究成果质量的尺度与价值标准。指标是将具有原则性、概括性和抽象性特征的评价目标,逐级分解,使之最终成为具体的、行为化和可测的诸分目标,这些经分解后可测的分目标,我们称之为指标。或者是,指标就是具体化了的目标。目标和指标是一个相对的概念,一个目标可能是比它大的管理系统目标的一个指标;一个指标也可能是它所包含的子系统的一个目标。
从目标到指标,必须经过逐层分解,先由总目标到不同层次的分级指标,再由最后一层分级指标到末级可测指标。这种由总目标向末级可测指标转化的过程,就是建立指标体系的过程。指标体系的建立过程,实际上也是人们价值认识取得一致的过程。人们提出一些指标并给予相应的权重,本质上就是把人们的价值认识客观化,使人们的价值认识凝集在指标和相应的权重之中。有了一致的价值认识才有可能获得一致的评价结论。
1,2评价指标体系的形式
在构建评价指标体系时,评价者一般假定指标体系具有层次结构。我们分解这些层次结构时,将指标系统分解成串联形式或并联形式。串联是一个指标作为另一个指标产生意义的必要条件的两个指标间的联系方式。在串联形式中,指标是按照严格的序关系排列的,任何不按照既定指标排列顺序排列指标的结果,相对于既定的评价标准来说,都是无意义的。串联形式重在将单指标变为可测形式,例如把论文的被引数作为论文类成果的学术价值评价指标。并联是互相作为对方补充的两个指标间的联系方式。在并联形式中,指标间不存在按序关系排列,但强调各指标的地位对等及指标体系自身的完备性。一般来说,对评价标准作横向要素分解,所得到的指标之间的关系就是并联关系,相应的指标系统形式也表现为并联形式。
建构科学研究成果评价指标体系就是将串联形式和并联形式的联系放在一起,建立以指标为结构的网络,并对网络进行优化。
2人文社科研究成果评价指标体系的设计原则
目前,我国人文社会科学研究成果的评价之所以存在方方面面的问题,并非由于评价方法本身存在问题,而是评价指标的信息获取途径即评价观测点的选取问题,也可以说是评价指标设计体系与评价方法的具体操作问题。评价指标能在多大程度上真实刻画与凝聚研究成果的本质属性,评价数据能在多大程度上逼近评价指标所内含的价值要素,这将对评价的最终结果起到决定性作用。
研究成果评价指标体系设计是整个科研评价体系设计的核心与关键。依据社会度量学的相关原理,评价指标体系设计的基本原则主要有科学性原则、操作性原则与关联性原则。
●科学性原则
评价指标是对待评价对象的实物抽象转换,愈是接近实物,这种转换就愈是成功,指标体系也就愈加科学。所以,本指标体系设计的首要原则是:多主体多视角多层面客观准确地描述人文社会科学成果的产生特点与评价规律。
●操作性原则
人文社会科学成果评价既要求量度的精确性,又要求具备可操作性,否则整个设计就没有实际意义。实际上,成果评价就是一种社会度量活动,反映的是一种共轭映射现象,是以操作性为基本要求的近似度量。所以,在成果评价指标体系设计中,每一个评价目标与评价标准都要通过层层分解而具体化为几个可操作性评价指标,使其可度量、可操作。
●关联性原则
每个评价指标的背后都隐含着一个潜在的评价主体及与其相对应的评价标准和价值取向,而指标之间的关系,其实就是不同评价主体之问的评价与被评价关系。所以,评价主体的关联性决定了指标之间具有关联性。科学研究过程是一个整体,科学研究成果是研究过程的结晶。研究成果的规范性、创新性与价值性,本身就体现了科学研究生产、传播与应用的各个环节。所以,这些评价标准与指标之间具有天然的关联性,只是为了评价的方便才被人为分割,我们在评价体系设计时需要通过权重设置与整个评价体系的有机组合来弥合裂痕,体现出关联性。
3人文杜科研究成果评价指标构成分析
从不同的分类角度,可以将评价指标划分为不同的类型。按照指标数值信息的获取渠道,可以分为:直接指标与间接指标;按照指标的评价方法,可以分为:定性指标与定量指标;按照指标体系的构成形式,可以分为:一级指标与二、三、四级指标;按照指标的性质,可以分为:客观指标与主观指标。
科学研究及其成果质量评判实质上主要涉及到创新性、价值性与科学性这三个方面。目前,我国的成果评价研究与评价实践中也大都主要是以这几个方面作为基本评价要素,只是在不同的评价环境与评价目标中,又会产生不同类型的指标分解及权重分配。
人文社会科学研究成果评价体系的指标构成主要包括创新程度、完备程度、价值含量(分解为:学术价值含量与社会价值含量)、研究投入,而且每一个评价指标背后都有与其相对应的评价主体。具体到不同的成果类型,再根据具体评价需要有所取舍或分合。
3,1价值含量指标
从社会价值来看,“格物致知”、“经世致用”一直是知识者和学问家永恒的议题与学术追求。如果一门知识或一门学问不能对社会发展和时代进步有所贡献,如果知识的意义不能为多数人认知和理解,学者所孜孜以求的知识将失去了存在的价值。作为知识的生产者和传播者,知识分子有责任、有义务、有能力让知识更科学、让人类更理智、让社会更文明。在当下中国所面临前所未有的转型时刻,社会有太多的问题需求解答,前进中的问题和发展中的问题不同程度地出现,比如国资流失、官场寻租、盲目决策、生态失衡、贫富倾斜、社会不公等诸多问题。这些问题的解决一方面需要普通公众的参与和热情,另一方面需要知识精英的声音和在场。但是,由于各方面原因,我国知识分子在私人领域与公共领域之间存在着一定程度的逻辑断裂。所以,当代的社会是一个需要表达的社会,当今的时代是一个寻求逻辑建构的时代。在一个公共文化欠缺和公民社会不成熟的国度里,更需要知识人的话语与在场。在一个缺少英雄的时代里,知识人的学术魅力以及饱含专业精神与人文关怀的公共责任感显得尤为重要。
与此同时,任何科学的研究除了它的社会价值之外,其研究本身也就是一种价值之所在,这种价值
就是学术价值。科学的有用性有时候并不体现在科学能够解决什么实际问题,能够创设科学体系本身或许能够对某一研究对象进行科学的阐释与解读,也可以是科学研究之价值所在。从这个角度来看,在评价社会科学的成果时,既要评价其社会价值,也不能忽视其学术价值,社会价值与学术价值可以得到有机统一。一般可以认为,具有社会价值的一般也具有一定的学术价值,但是两者也不完全一致,特别是不能认为没有社会价值的就一定没有学术价值。
成果价值含量中的学术价值与社会价值,正对应着该指标的两类评价主体,即学术同行与社会受众。学术价值主要通过学术同行对已公开成果的引用或下载体现出来,因为被引用或下载就意味着被认为有用,可以满足其研究需求。社会价值主要通过公众社会反响、成果采纳部门的采纳程度及其所产生的经济社会效益来反映。研究成果的学术价值与社会价值都要在成果公开发表(出版)或被采纳实施之后才“浮出水面”,成为研究成果的客观评价指标;之前,都只能是评审专家的主观判断或科研项目资助者的投入预期。所以,学术价值含量指标在间接指标评价体系中被分解为“被引用”和“被下载”两个可测指标,社会价值含量被分解为“社会反响”指标和“采纳部门”指标,在直接定性评价体系中则主要通过成果评审或鉴定专家的定性评语体现出来。但此时专家评价的意义会在一定程度上小于间接指标的评价意义,因为价值含量指标本身就是在成果价值关系形成之后才表现出来的,而价值关系的形成过程也就是间接指标的形成过程。
从另一个角度,依据经济学中的价值论与价值评估理论,科学研究成果的评价不仅需要把成果看成一种静态的科研劳动成品,还要从动态的视角窥到成果的价值源头及其背后的投入成本。同时,不仅要看到成果所带给学人和社会的学术价值与社会价值,还要追溯它的研究基础、资金投入与人力资源投入,以及其价值含量与投入成本之间的匹配或比例关系。当一项研究成果与其他研究成果相比价值含量相等时,其研究经费投入越少则价值含量越大。这是经济学中的“价值最大化”原理,也符合人类行为的“最省力法则”。所以,从这个意义上说,研究成果的价值含量指标是一个综合性很强的评价指标,它不仅包括成果的学术价值指标、社会价值指标,还涉及到成果的研究投入指标,同时学术价值与社会价值又是以成果的创新程度与完备程度为基础与保障的。
3,2创新程度指标
研究成果的创新指标也是一个综合性指标,创新性不但能引起价值性,也能反映出研究成果的科学性。因为只有立足现实需要与学科发展前沿的科学研究才可能找到创新点,而且真正的创新是尊重传统基础上的继承性创新。创新特别是原始性创新是一个需要加强权重的评价指标,因为目前我国科学研究的创新性不足已引起社会各界的关注,成果的创新性已然成为成果质量的代名词。
创新性是科学研究的生命,是成果学术价值的核心。社科研究成果的创新包括几个方面:①选题方面有创新;②开拓材料范围或开辟新的研究领域、扩大认识对象的范围;③修正前人错误的或不完全正确、不全面的认识;④提出与科学发展阶段同步的新见解;⑤研究思路、研究方法有创新;⑥革新著述方式。应当说,只要能满足上述条件的其中之一的科学研究,都可以称得上是创新。
创新性标准既是一个综合性指标,又是一个普适性指标,研究论文、学术著作与研究报告等各类型研究成果都将其作为一个必不可少的首选指标。对于学术论著而言,有一定创见与新意是其得以发表或出版的必要条件,而研究报告的研究是从问题开始的,创新也必然是从问题开始。现在很难把一个重大问题简单地归属于某一个单一学科,问题存在于生活实际中,而不是存在于学科体系中,学科体系是为研究问题服务的,而不能反过来。据统计,№一ture和science这两份典型的自然科学杂志,2000年以来发表了近百篇研究人类社会和人文问题的文章。如果仅从学科体系出发做研究,而不是为了解决实际问题,就不能真正做到创新。这样看来,创新指标既与学术价值指标具有直接的关联性,又与社会价值指标具有关联性。
当前,最通行的科学研究成果的创新性评价主体是学科领域专家,即“小同行”。无论对于研究成果发表、课题成果鉴定还是获奖,成果的创新性都是一个重要评价标准(如:国家社会科学基金项目成果评估指标体系中,论文与著作类成果都把创新程度指标赋予最高权重),而对其创新程度的判断,基本上是凭借学科专家积累的知识基础及专家对成果的整体印象而对研究成果进行定性评价。笔者认为,应将专家主观评价与信息管理方法结合起来,构建基于信息检索与成果查新的专家评价体系。具体到该指标的分解末梢,根据指标数据方便获取的原则,可以将创新程度与完备程度评价指标合并之后,再分解为几个二级间接评价指标。
3,3规范完备性指标
研究成果的规范完备性,主要是指科学研究过程的规范性、研究方法的科学性、研究逻辑的自洽性、成果结构的严谨性、论述的充分性等。为了发表或出版论著,科研工作者必须基于一定的研究起点提出自己的创见,而创见的提出必须通过一定的研究方法才能得到很好的阐释与论证,那么此时,通过这种科学方法形成的研究成果就具备了研究方法的规范性、研究逻辑的自洽性、论证的充分性、结构的严谨性、表述的精炼性等特征,同时也就具备了研究规范的完备性特点。不管这一研究成果最终的结论是否完全正确,我们都应该称之为科学成果,因为他遵循了科学的研究方法与学术规范。完备的研究规范是研究成果科学性的基本要求与基础保障。
科研成果的完备性把关,首先是从编辑这一评价主体开始的。不遵守基本科研规范、不具有可读性的研究成品,是不可能在学术期刊发表或在正式出版社出版的。科研成果的完备性指标,是为促进有效学术对话而设置的指标。可以说,研究论著的研究方法、论证逻辑及结构布局,是一个科研工作者在学术共同体中进行学术交流与共享的一种结构性语言,是学术思想得以传播与继承的基本形式。所以,这就要求真正的科研成果要具备科学用语的通用性、发表载体的权威性以及公布渠道的畅通性,从而更好地实现大范围的知识共享,促进科学不断进步。
研究成果的完备性指标评价主体除了书刊编辑还有领域专家,研究成果的初始发表,之后的被摘录与获奖,都要经过严格把关与权威审核。而这些评价主体对研究成果的审核与评价标准主要在于两个方面,一是内容新颖性,二是方法科学性。专家审稿的重点是审查成果在研究领域的创新意义,编辑则主要在研究规范性等方面综合把关。
那么,这就使成果的发表刊物级别、文献摘录方式、学术获奖等级作为评价成果创新程度与完备程度的间接指标具备了假设前提。如上文所述,就可以在间接指标评价体系中,将创新程度与完备程度合并为一个“创新完备性”指标,意指较少考虑成果的同行反映与社会影响,而是由期刊选稿责编、领域
评审专家根据研究成果自身的创新程度与完备程度进行的规范审核。需要说明的是,研究成果的发表或出版级别与学术获奖,更多是看重其创新程度,而被文献摘录特别是全文转载则不然,它事实上更为重视论文的可读性、综述性与信息覆盖面。
3,4研究投入指标
科研成果评价的研究投入指标是个争议最大、问题最多的评价指标,因为它涉及到科研项目的审批与研究资源的分配等复杂的社会因素。科学研究越来越面向问题,越来越需要综合化与跨学科研究。科学家获得科研经费资助是产业科学(或后学院科学)时代的必然产物与明显特征,也是国家对社会科学研究的社会功能的一种强大预期与调控。科学学研究表明,在科研经费的资助下进行科学探索是符合科学研究活动规律的。所以,资助科学研究已经成为各国促进科学发展进步的普遍现象与国际趋势。
但是,由于科研经费分配制度与科研项目成果评价机制的问题,导致了我国科研项目经费使用的非理性,也使科研成果质量与科研经费资助力度之间存在着错位与偏差。以北京大学第十届人文社会科学优秀成果奖为例,统计结果显示:在全部获奖成果中,无经费资助的自选课题最多,有30项,占36.1%;其次是国家社科基金课题(包括国家社会科学基金重大、重点、一般、青年项目以及全国教育科学规划项目、全国艺术科学规划项目)、教育部课题(包括教育部人文社会科学研究规划基金、博士点基金、青年基金项目以及教育部哲学社会科学研究重大课题攻关项目、教育部人文社会科学重点研究基地重大项目、教育部霍英东基金项目、全国高校古籍整理项目等)、校级课题(211工程、985工程项目等),均占16,9%;随后是校外横向课题,占8,4%。这种自选课题最多,国家社科基金、教育部课题、校级课题其次,其他来源课题再次的构成特点,在分成人文、社科两大领域后,表现也大致相同。从这组数字可以看出,产出优秀成果与科研资助力度之间不是必然的关系,更不是正相关关系,而这是不符合上文所述的一般科学研究活动规律的。如果说没有经费资助的自选课题由于出自科研人员的兴趣,容易发挥其专长,更可能出优秀成果的话,那么,如何才能通过国家科研基金这一政策性杠杆刺激出更多的优秀成果呢?
有人提出改革的思路应该是整合现有国家资源,设立统一的国家人文社会科学基金,包括研究基金与奖励基金。如果这样,就需要研究受奖励成果与受资助资金之间的关系,即:受奖励成果的评价与遴选必须是基于成果质量得分与受资助金额的比值。没有受到资助或资助力度较小的优秀成果,可以通过奖励基金得到补偿;质量得分相等的成果,受资助金额越大得到的奖励越小。
4人文社科研究成果评价指标权重与分值合成
针对指标构成,进一步分析指标之间的权重分配与换算关系,是构建一个完整评价指标体系中的重要环节,需要结合不同的学科特点与文献类型,采用适当的工具与分析方法才能实现。
合理的评价指标权重分配方法是在综合分析专家咨询问卷的反馈结果的基础上,选择了定量定性有效结合的群组决策特征根法(GEM)和层次分析法(AHP法),运用MatLab 7.0软件计算工具测算出评价指标的权重系数,力图能真实地反映各个指标的重要程度。至于对各指标数据得分的分值合成,是先将标志成果质量的价值指标、创新指标与完备性指标三大指标的得分加权求和,得出该成果的质量评价分值,然后将所得该成果的质量评价得分除以研究投入指标的得分,才是该研究成果的最后价值得分。
一般情况下,应该鼓励科研工作者争取科研课题的资助与研究经费的投入,受资助研究成果应该加分鼓励而不是扣分,在国际上也是科研人员能拿到大课题资助是其科研水平和能力的标志。但研究经费毕竟是一种稀缺资源,不是所有具有研究价值与应用前景的研究课题都能拿到经费资助,那么,这就存在着受到资助的研究成果与没有经费资助的研究成果以及资助力度不同的研究成果之间的可比性问题。特别是对于我国目前学界共知的普遍存在的“科研致富”等非正常现象,如果成果评价时适当地将这一因素考虑进去,应该会促使现状的略微改观,等资助体制趋于正常时再适当调整。同时,在具体的评价操作过程中,切忌误解、误导与误操作,要考虑在什么情况下才可以考虑这一因素,以及如何逐步实施。所以,如果将课题来源作为评价科研成果价值的负影响,一定要控制该指标使用的范围和条件。具体地说,当同类被评价研究成果的创新性、科学性与价值含量等指标表现类似或排序等级不易区分的时候,研究投入指标就可作为考核内容之一,至少也要作为一个中性的参考指标列出,以供专家评价时参考。