论质化研究在期刊评价中的应用
2020-12-13王雅静
王雅静
(中国社会科学院 中国社会科学评价研究院,北京 100732)
一、学术期刊及其评价
学术期刊作为一种重要的学术评价机制,其学术功能和社会角色经历了历史性的演变,它不仅是学者进行学术发表、知识交流和知识产权确认的重要载体,更是一种由点到面的学术社会生产网络,是汇聚学术共同体和引导知识生产方向的关键性要素。学术期刊评价是学术评价的重要组成部分,学术评价领域要建构科学合理、公正权威的学术期刊评价体系,发挥学术期刊的学术引领、学术共同体凝聚、科研诚信监督的作用,激发学术创新力、引领学术风气。
在评价政策方面,2016年5月,习近平总书记在全国哲学社会科学工作座谈会上的讲话,提出了建立科学权威、公开透明的哲学社会科学成果评价体系[1];2018年,中办和国办相继印发了《关于分类推进人才评价机制改革的指导意见》《关于进一步加强科研诚信建设的若干意见》和《关于深化项目评审、人才评价、机构评估改革的意见》;2018年11月,中央全面深化改革委员会第五次会议审议通过了《关于深化改革培育世界一流科技期刊的意见》,这些文件对期刊评价提出了新要求,着力解决评价标准一刀切问题,实行差别化的分类评价,体现了“破四唯、分类评价、关注差异、鼓励特色发展”的精神。这些指导性文件的一个共同要求是,开展期刊评价要充分发挥同行评议的作用,论文引用榜单和影响因子排名等仅作为各类评价的参考。
期刊评价方法主要有自上而下的行政评价、同行评议、量化指标评价和综合性评价等[2]。但是,近年来,随着科学文献计量学的发展,量化指标不断生成,并成为期刊评价的主旋律,例如引用率、转载率、影响因子、自然指数、H指数等[3]。期刊的定性评价法主要是同行评议,即同一学科研究领域或同一研究方向的专家,按照一定的学术标准,对学术期刊的研究成果、人员和机构进行评价[4]。一些学者认为,期刊量化评价作为一种临时性的政策手段面临诸多困境,如“以刊评文、过度量化、行政主导、功利性、同质化、忽视差异性和人文社会科学发展规律等”[5-7],认为合理的评价应以学术共同体主导的同行评议为主,辅之定量和定性数据作为支撑。而所谓的定量与定性结合的综合评价法,是将同行评议引向一种定量化和技术性的维度,由专家对评价对象进行打分,将打分结果进行统计,并进一步提出同行评议质量控制的方法,如采用德尔菲法、层次分析法、模糊数学法等[8-9]。这种量化倾向往往忽视了人文社会科学的特点和学术评价的社会文化环境。实际上,量化框架下的同行评议在期刊评价中仍处于辅助和边缘地位,我们迫切需要建构完善的定性评价的理论和方法框架。
二、期刊评价研究的进展
学术期刊作为知识生产的一个特殊部门,具有深刻的政治性、社会性和情感性,学术期刊与社会转型的关系决定着期刊特点与发展方向,这也决定了学术期刊评价的复杂性。期刊评价是对期刊上发表的学术成果的优劣、编辑人员的专业素质和水平、编辑部的管理运营能力、期刊的学术影响力等进行的综合评价,如利用影响因子高低核定期刊等级,确定核心期刊分布;通过同行评议来识别优秀成果[10]。期刊评价是学术活动和学术评价的一个组成部分,它的导向作用是推进我国学术评价伦理化、合理化的路径之一。期刊的定量和定性评价体现了质化和量化研究在期刊评价中的应用。现阶段,期刊评价方法主要集中在同行评议和科学计量法两个方面。同行评议法是主要依赖专家问卷的定性评价法,科学计量法主要是影响因子类指标法,它是主要依赖于论文高被引的定量评价法。
对期刊评价理论和方法的研究主要有三大理论脉络。
第一,沿着科学计量中文献计量学的理论和方法路径,文献计量学家侧重于期刊评价的量化方法和具体技术的研究,不断细化和推进期刊量化评价方法。它遵循引文分析法的理论路径,以影响因子为核心,深化拓展期刊影响因子类指标的设计,从影响因子到H指数、G指数、Z指数和HC指数的推进[11-12],以及开始探索一种基于大数据的模糊集的分析方法,模糊综合评价法将文献计量法应用于内容评价,建构矩阵检验、权重分析和综合判断[13]。在定性评价的同行评议法方面,文献计量专家采用专家问卷的打分排名法,利用分值量表和等级量表等对评价结果进行层次分析,并作归一化处理和一致性检验。对科技类期刊的同行评议则将其引向一种量化方法的技术路线,研究质量控制方法,如控制时间、成本,对评价结果进行量化处理[9]。也有一些文献计量学者关注定性和定量评价方法的关系,并集中讨论同行评议与影响因子的相关性,从纯技术手段对比两种方法在科研评价中的作用[14-16]。文献计量学的期刊评价法仅是量化评价的一个维度,它更侧重于对评价的技术方法层面的探讨。现阶段,期刊的量化评价仅停留在简单量化阶段,纯粹的技术主义路线不能解决学术评价中的问题,它忽视了中国学术发展特点和学术评价的社会环境[17]。
第二,一些人文学者开始从方法论角度批判期刊量化评价的弊端和问题,他们认为“量化评价扼杀了人文学术”[18],它是一种功利性的评价,不是一种学术批评和评判[19],期刊评价的分裂和异化在于评价主体的分裂、评价定量和定性方法的二元对立,特别是评价主体归于评价机构后,以文献计量学家为主的定量评价盛行,这致使学术共同体丧失了评价主体的资格[20-21]。人文学者还指出,评价机构的评价人员大多是文献计量学家,他们缺乏学科专业背景,不了解数据的价值和数据背后的社会意涵[6],他们设计的通用性、纯量化的指标抹杀了不同评价目的对评价方法和标准选择的差异性,掩盖了个性化的数据,扭曲了定量评价。一些研究站在学术评价的视角审视期刊评价,认为定量和定性评价方法应相互补充,合理、科学的评估应该使用多种工具组合,围绕研究目的实现定量与定性的结合。科学计量学在学术评价中虽然存在局限和缺陷,但作为一种辅助性的工具以及数据的提供具有其意义,关键在于如何理解指标的价值和内涵,以及评价工具使用的社会情境性。学术评价的困境体现为两种方法存在内在的张力,没有完美的结合方案,应坚持定性为主、定量评价为辅的方法[3]。这些研究从哲学方法论层面,对现今以文献计量为主的期刊量化评价法进行批判,它具有一定的启发性,但是,一方面,探讨评价方法大多停留在对期刊简单量化评价的批判上,而对社会科学量化方法的内涵讨论并不充分,因为以文献计量为主的简单量化评价仅是定量评价的一个维度。另一方面,这些讨论集中在哲学思辨层面,在评价方法上并没有提出建设性的方案,可谓“只破不立”。虽然他们提出期刊评价要回归学术共同体,采用同行评议法,但缺乏对其方法论和具体操作方法的探讨。
一些文献计量学家针对人文学者的批判开始探讨人文社会科学评价的特殊性,提出了定量与定性评价两种方法结合的思路[22],他们渐渐认识到文献计量法不能进行不同群体的比较研究、不能处理个体和历史经验层面数据,他们也开始探索优化的科学计量方法,将学科差异和社会属性纳入量化分析,关注不同研究成果的测量层次、不同学科的知识集中和分散规律,解决评价同质化标准的差异性和可比性问题。在数据分析过程加入社会人口学属性的控制变量,关注科研成果相关的复杂因素,如考虑年龄、职业生涯周期、性别、研究领域、合作范式等变量[23-25]。但这些研究并没有跳出量化研究的框架,也没有提出具体的定性研究方法。
第三,在知识社会学视野下关注同行评议过程,它从知识本体论、认识论和方法论的层面切入,关注期刊评价在整个知识系统中的角色,这对期刊评价的研究具有启发性。评价涉及到价值和伦理层面,我们可以从知识的特性和知识传播的特点关注期刊评价的政治性、社会性和情感性。特别是对同行评议的社会学研究,从评议人体制角度研究学术生产体系和学科文化对评价的作用,关注评价的社会情境性、认知建构性和反思性[26]。他们关注同行评议的社会文化和价值层面,揭示同行评议制度中的权力关系和认知文化,进而建构知识认知层面和社会层面的关联,揭示学术生产、评价体系和学科文化的特点。
综上所述,现阶段期刊评价方法的研究大多停留在纯技术和哲学思辨层面,文献学派注重于评价方法的技术路线,侧重在技术层面探讨两种方法的优缺点、考虑评价结果的一致性和差异性。显然,技术主义路线缺乏从方法论层面关注两种期刊评价方法的理论基础和实践内涵。在期刊评价方法体系上,这种评价方法在理论基础和方法框架方面,都未触及期刊评价过程中的学科文化和评价文化。与之相应的是,人文学者在哲学思辨层面的批判,尚缺乏对方法论和评价方法的具体研究。总体来说,量化和质化研究方法在期刊评价中的应用相对比较滞后,期刊评价研究需建构一种中观层面的理论和方法框架,在定性评价方面需要探索质化研究体系在期刊评价中的应用,建构期刊评价的定性研究方法论框架。
三、期刊评价方法的历史与转向:从同行评议到文献计量
(一)期刊评价的历史演进与量化转向
学术期刊评价最初是文献计量学研究的重要内容,研究的初衷是为图书馆采购学科重要期刊和引文数据库遴选来源期刊服务,为优化学术期刊的使用提供参考。其评价结果渐渐应用于科研管理、学者成果评价、学术奖励、学术资源分配等方面。文献计量学派主要通过量化方法研究期刊发展规律、增长趋势和分布规律。其中,引文分析法是通过对学术期刊增长趋势和分布规律进行研究而形成的分级量化评价。
作为学术期刊定量评价法,文献计量法的发展主要经历了三个阶段:第一,早期阶段,主要研究文献集中与分散分布规律,关注发文量指标;第二,引文分析法阶段,通过引文量测算平均被引率和影响因子,进行量化分级,以及设计发文和引文量结合、数量和质量结合的H指数,进行复杂评价;第三,在模糊评价阶段,将定性数据进行量化统计,进行综合混合评价[4]。现阶段,国内学术期刊评价体系基本都采用文献计量学的量化评价法,公布定量指标和权重,根据指标算法、数据结果排序对期刊进行等级分类,拟定“核心期刊”[21]。一些评价机构声称采用定量和定性相结合的方法,但在评价过程中并未提及定性指标和权重,定性评价仅仅作为参考和补充。
定量评价法为什么会成为期刊评价的主流方法呢?我们知道,早期的学术评价主要依托于学术共同体的同行评议机制。“同行评议”的概念最早出现在17世纪中期,在英国皇家学会期刊《哲学会刊》的论文评审中,通过同行专家评议对论文内容进行评价,判断作品的有效性、重要性和原创性,为学术期刊选稿提供参考。同行评议被誉为“汇聚专家智慧、识别重要思想、更正研究错误,确保研究团队获得更大支持的学术评价方法”[27]。同行评议是一种依托学术共同体的重要评价方法,评议人体系的制度化深刻体现了期刊发展的社会属性,作为一种精英化的学术交流和评价活动,同行评议主要存在于学术精英的小圈子中。但在现实中,同行评议易受到人缘、师承、权力利益关系的影响,如学术人情关系、行政权力干预、圈子文化、学术评价标准丧失和评价不公开、不公正的问题[28]。在学术系统内部的等级结构下,少数精英可能会主宰学术认可和资源分配过程。成熟的同行评议体系需要依托强大的学会和自律的学术共同体,遵循学科同行性、学术民主性、学术交流性、利益超越性等原则,在学术争鸣和交锋中建构学术共同体[27]。
量化评价替代同行评议的根本原因在于学术生产模式发生了改变,随着社会分工的不断深化,知识生产不断地去神圣化、日常化、公共性,日益成为科研生活的常态[29],同时随着学术GDP竞争的加剧,科研劳动分工更加细化和复杂化,科研管理需要以量化评价去迅速识别成果的价值。另一方面,科研成果和交流形式从一种精英化的学术活动变成一种高度职业化、专门化的科研活动。科研成果从在传统无形的学术共同体的内部传播,并获得学术同行内部认可,发展到成为一种特殊的公共和社会属性的准私人产品。随着学科的体系逐渐成熟,门类逐渐繁多,出现了一些跨学科的小众研究领域。学科差异的分化和复杂性,造成彼此之间难以进行公正的度量和评价[3,30]。方法转向的现实动力主要来自量化评价为科研管理带来了便利。在科研管理方面,政府治理模式的改变,技术治理逻辑更偏重绩效和问责。量化评价可操作性强,标准明确,而同行评议的交易费用过高,具有主观性和不确定性。显然,量化评价有利于政府确定科研成果的知识价值与社会贡献价值,有利于进行科研管理和学术资源分配。
可以认为,文献计量学的评价方法适应了知识生产、传播体制和科研管理体制的变化,在期刊评价领域获得了发展的土壤。文献计量提供的数据具有简便、经济、易操作特点,评价效率高,研究结果可测量、计算和比较。文献计量方法可以提供学科领域组织性、结构性较强的描述数据,可以降低成本,提高效率,体现评价的科学性、权威性和相对准确性[22]。
(二)期刊评价中的定量与定性研究
期刊的定量和定性评价法主要表现为文献计量法和同行评议法,这体现了社会科学的定量和定性研究在期刊评价中的应用。两种评价方法具有不同的方法论取向,定量与定性研究在理论假设、资料收集、论证逻辑和结果应用等方面存在差异[31]。谢立中认为,人文社会科学研究从研究范式上有实证主义和人文主义之分,研究模式可以采用定量和定性研究[32-33]。定性研究强调情境性和文化性,在理论与经验之间理解理论的历史主义取向,以及对人类心智固有属性的准确描述,这是一种更深层的整体结构,不能够通过运算得到。定量研究通常是以定性的结果为基础,对社会现象变化过程,社会不同因素之间的相互作用,进行数据的分析和结论的验证,总结出具有规律性的结论。如研究社会现象之间的变异,可根据大数定律和中心极限定理,设定理论假设,验证理论的自变量和因变量的因果命题等。
首先,文献计量法作为一种期刊量化评价方法,其应用于评价的研究假设和价值论在于一切外在的物态表现均可以反映其内容和度量分级,并通过指标化的统计分析,建立数学模型以获得直观结果。在具体操作中,评价对象的内在质量和价值都可以转化为外在的表现形式,是可测量、可记分、可进行横向比较的。它通过数据的“精确化、客观性”量化评价,从一个方面展示了期刊发展的规律和特点,一定程度上规避了同行评议的“不稳定性、模糊性和权力博弈”问题,这无疑是一种进步。以此,以文献计量学为学科基础的期刊引文分析评价建构了“核心期刊”的概念。1934年,布拉德福从文献的集中和分散规律提出核心期刊的概念,继而20世纪60年代出现从引文分布角度证实核心期刊的存在,并开发了SCI、SSCI、A&HCI等数据库,发布期刊引证报告(JCR)[10]。归根结底,文献计量法是从整体宏观层面把握数据的趋势性,呈现纯量化和通用性的指标,如强调影响因子、转载率等。然而,纯量化和通用性的指标体系往往会抹杀不同评价目的对评价方法和标准选择的差异性,忽视评价对象的差异和个性。其在定量研究方面,缺乏数据背后的理论假设和对数据的分析解读。期刊量化评价应按照社会科学量化研究的原则,具有自由、开放、公正、分散和随机的特点[30],而对核心期刊影响因子的追捧却是量化数据使用的异化和功能错位。我们需要思考如何优化期刊量化评价,避免简单量化评价的弊端。在此认识基础上,一些文献计量学家则针对人文学者对简单量化评价的批判,开始探索将学科差异性和社会属性纳入文献计量的量化分析中,比如分析自然科学、社会科学和医学工程学不同专业的知识集中和分散规律,着手解决评价的同质化和一般化标准中的差异性和可比性问题,开始关注不同研究成果的测量层次。张琳等人对科学家个人成果的文献计量评价方法的研究,重点解决如何在个体层面更准确地反映成果信息,在数据分析过程加入社会人口学属性的控制变量,关注与科研成果相关的复杂因素,如年龄、职业生涯、性别、研究领域、合作范式等变量[23-24]。
另一方面,同行评议作为定性评价法,则更强调发挥学术共同体的评价主体作用,学术同行评价可以理解量化数据背后的含义、关注指标的价值和内涵,理解它所使用的社会情境性,建构评价的理论假设和价值原则。学术期刊作为知识生产的重要载体,具有深刻的社会性、公共性、政治性和情感性。评价要认识到学术领域的公共属性和社会属性,才能建立公正、权威、科学的评价体系。一些研究指出,期刊评价要关注科研管理体制和学术评价的关系,将期刊评价放在更广阔的社会文化空间下,审视学术期刊的公共性、社会性和情感性,认识学术生态、学术活动和学术评价的复杂性[29]。科学的学术评价和期刊评价机制应该发挥学术共同体的评价主体地位,评价权力回归学术同行,重建学术民主[6],以此培育富含创造力和凝聚力的学术共同体,推动中国学术健康发展。遗憾的是,这些研究往往停留在哲学思辨层面,他们指出了文献计量法简单量化评价的问题,却没有提出切实可行的定性评价方案。
四、期刊评价定性研究体系的构建:对同行评议的质化研究
(一)知识社会学视野下的同行评议
一些学者从知识社会学视角对同行评议进行研究,这对我们建构期刊定性评价方法体系给予很多启发。20世纪60到70年代,在科学社会学研究中默顿学派开始关注科学知识、科学共同体和评议人体制的社会建构,通过实证研究法研究知识场域的评估活动和认知文化的形成[26],并关注学术评估中科学精神的普遍和特殊评价。受默顿的影响,21世纪初,学者们开始关注同行评议的社会文化和价值层面,揭示同行评议制度中的权力关系和认知文化[34]。其中,美国米歇尔·拉蒙特的《教授们怎么想——在神秘的学术评判体系内》是在知识社会学视野下研究同行评议的“学科与评价文化”的重要成果,虽然研究对象是国家奖助金的同行专家评审活动,但是与学术期刊的同行评议相似,在评价过程中,关注专家如何在“一流”和“多样”标准、学派差异和跨学科平衡下形成统一的意见,以及专家的社会背景、政治立场、学科文化、价值判断、情感因素如何介入评价过程。评价文化体现了正式和非正式制度的约束、价值理念和标准的多元性、不稳定性、知识生产、认知建构和社会间的互动过程。《教授们怎么想》直接从同行评议的社会性机制和过程入手,揭示神秘的学术评判体系内教授的评价标准和评价过程[35]。
事实上,知识社会学探究的是知识的认知层面和社会层面的关联,以及科学家群体的学术社会生活,揭示学术生产、评价体系和学科文化的特点。在这方面,更进一步的研究是托尼·比彻和保罗·特罗勒尔的《学术部落及其领地——知识探索与学科文化》,它从知识本体论和认识论入手,探究不同学科的知识特性与学科文化关联、学术共同体(学术部落)社会特征的多样性、知识认识论的社会性、诠释性和建构性特征,将学术领域的认知特征和社会特征结合。他的学科分类体系参照科尔布和比格兰的框架,分为硬科学和软科学、纯科学和应用科学,不同知识类型特征决定其社会关联程度的强弱。人文社会科学领域的知识发展具有重复性、累进的非线性特点,学科关联结构较弱,即注重特殊性和复杂性,具有个人色彩,价值观影响明显,知识标准存在争议,缺乏共识,受到外部社会环境影响大,成果表现为理解和阐释。方法上重视定性和特殊性分析,需要大量的资料铺垫。所以,评价的限制条件主要是知识类型和学科范式,如学术共同体成员的习俗、规范和认知结构,具体表现为学术部落的学术风格、学科的成熟度和社会化程度、学科的交叉性与专攻领域、学术交流和研究模式、学科内部的习俗与文化、内部的权力利益关系、学术的科层组织网络等因素[36]。布迪厄的“科学场域理论”也体现了科学的社会建构论视角成果,他认为科学事实是被建构的,科学场具有相对自主性。科学场域是一个竞争性的场所,科学生产过程中的各个利益相关人的客观关系决定着科学场域的结构,核心是科学权威的垄断问题。其中,知识人获得同行评议的认可是其掌握知识生产技能,进入科学场域竞争,获得科学权威的过程。所以,一切知识生产和评价活动既是科学的又是社会的[37]。
在期刊同行评议中,社会性和文化性的因素一直影响着评价活动,研究者通过实证研究还原期刊同行评议的社会性的认知文化,可以展现五光十色的学术评价世界,揭示评价活动背后的学科文化和学科知识的社会构建过程。同行评议的社会学研究进路表现为跳出同行评议技术方法层面检视同行评议的社会和公共属性,分析其在学术评价中的作用。对期刊评价而言,评议过程本身就是一个学术性、公共性和社会性的活动。加拿大文献计量学学者Lariviere V立足于知识生产、科研体制、学术期刊评价的关系,认为学术期刊在建构知识结构、形成不同学派,以及理解学术发展与国家制度之间的关系具有重要作用[38]。因此,优化期刊评价的定量和定性方法体系需要关注期刊的社会和公共属性,以及期刊发展与学术共同体成长的关联,在方法层面拓展同行评议的深度和广度。
(二)期刊评价中的质化研究:同行评议法的拓展
期刊评价具有社会性、公共性和价值意涵,评价活动是社会互动、认知形成和社会建构的过程。沿着知识社会学的框架,期刊评价的定性法主要在于将质化研究方法体系引入期刊的同行评议过程。质化研究可以理解评价过程中的学科文化和评价伦理,研究期刊同行专家评判的社会过程,理解他们所处社会情境、价值体系、意识形态、社会制度等宏观因素对其价值判断和评价决策的影响。
1.评价中的质化研究方法体系
陈向明于1996年在《定性研究方法评介》中,提出质性研究的定义、理论基础、方法体系和使用范围,她认为在定性研究的基础上可以建立质性研究方法的理论框架。质化研究是将研究者本人作为研究工具,在自然情境下,采用多种资料收集方法,对研究现象进行深入的整体性探究,从原始材料中形成结论、建构理论,通过与研究对象的互动,理解阐释其行为和意义[39-40]。质化研究的理论主要来源于阐释主义、建构主义和批判理论,它不是哲学思辨层面的空对空,知识的建构不是从理论到理论的逻辑推演,而是以建构主义为前提,以文字叙述为材料归纳的逻辑。谢立中在总结国内质化研究方法的基础上,从四个维度定义了质化研究的类型,他认为社会科学的实证主义和人文主义是一种研究范式,他们可以采用量化或质化的研究模式,根据他们结合的方式可以分成四类:人文主义的量化研究和质化研究、实证主义的量化研究和质化研究[33]。依此可见,质化研究分为人文主义和实证主义两种取向,早期的质化研究并没有准确地理解各种范式之间的关系。实证性量化研究具有数量化、客观化和普适性的特点,但是却无法确定变量之间的因果关系;阐释性的质化研究可以提供良好的因果解释,却具有主观化、非量化、个案特点。而韦伯的理解社会学为两者结合提供了一个相对可靠的因果分析模式。质化研究方法的主要理论来源是韦伯的理解社会学,他强调在社会互动过程中理解和阐释特定人群社会行动的意义,并采用归纳逻辑推断因果机制。他认为,主观意义、行动动机和行动后果是相互联系的。行动者主观意义或动机的内在性在于行动者的内心世界具有模糊性和不稳定性的特点,不能通过实证量化研究的方法获取,只能通过质化的研究方法探究。所以,阐释性的质化研究可以帮助我们揭示社会现实产生变化的原因和机制。通过个案研究或者深度访谈,研究者可以深入到行动者的意义世界,揭示社会现象之间的真实因果关系。质化研究通过社会调研的观察和归纳逻辑,可以看到数据变量的承载者并研究数据背后活生生的人,它是一种更深层次的结构化。熊秉纯在中国社会性别研究的成果中,认为量化研究的普遍性和代表性不一定能揭示出制度所隐含的价值取向,关切到问题的核心,可以清晰地呈现出结构性的问题和个体在社会建构中的困境和挣扎。很多量表没有准确反映社会现象和人生经验,并忽视了社会情境性、社会互动场景和事件过程的社会属性。在对社会性别的研究中,他建构了比较完善的质化研究方法体系,主要包含实证研究、建构主义的归纳逻辑、个案研究和研究者的先见与反思[41]。
借鉴前人对质化理论和方法研究的成果,笔者认为,建构期刊评价中质化研究方法体系可以主要包含四个方面。
第一,评价的社会情境性。学术评价的过程是一个涉及情感、主体间交互影响的过程,评价人不同的社会身份会潜移默化地影响他们的评价过程。专家在头脑风暴过程中,建构多元化的评价知识,形成情境化的认知结构,各类型专家面对面的对话展示了学科文化和评价标准,以及在其中蕴含的权威关系。评价中蕴含价值判断,理解评价背后的理念和标准需要考察同行评议的社会建构过程,评价场域的正式和非正式制度建构了评价的多元性和不稳定性,评议过程的社会限制性因素让同行专家在差异中产生共识并做出决策将成为一件不可思议的事情。那么,专家同行评议的意见为什么不一致,他们坚持的价值理念是什么?探究评价的理念和背后的意义需要理解和阐释同行评议的社会情境性,它包括不同学术共同体所处学术场域和学科文化的特点,也包含学术生产体制和科研管理制度。显然,它是学科文化和评价的社会属性,包含限定条件下的学科范式、学术生产交流和研究模式、学术风格和风俗、学术合作与社交、学术生涯、学科地位和权力关系、学术竞争与合作、学术管理的科层体制,以及跨学科发展模式、学科成熟度和社会化组织结构等。
社会情境和情感对评价的影响具有一定的开放性和灵活性,常常存在一些无法预测的现象,评价者需要了解不同学科的评价文化,深入理解和阐释学科文化和专家共同体的特点,记录事件和行为发生的过程,探求因果关系,寻找结构性的关键问题和社会机制。
第二,建构主义的实证研究。期刊同行评议是一个社会建构的过程,我们要以社会建构的视角看待同行评议的过程。中国同行评议制度主要是移植西方比较成熟的制度体系,它在中国实现本土化的关键在于适应中国的学术生产体系和科研管理体制特点,以及中国学术发展脉络和学科文化。在西方,同行评议是一种主流的学术评价方法,计量方法仅仅是同行评议结果的参考和补充,计量方法之所以在中国盛行是因为还没有建构成熟的同行评议制度和合理的评价文化。所以,我们首先应该通过实证研究了解中国学术生产的现状,采用归纳法的研究论证步骤,关注评价者和参与者的话语立场,寻找当事人的价值观念,根据这些关键话语寻找主题思想、归纳学术评价的核心问题。质化研究要实现知识建构的意义,通过阐释社会学的方法理解事件、情境、经验行为和研究对象以及赋予它的意义。采用质化研究的归纳逻辑,由资料出发,找出关键词和概念,再由关键词和概念归纳解释社会现象的原理和原则,如扎根理论的归纳逻辑、建构主义的访谈以及探索性地寻找研究问题。
同行评议的过程是一个对话机制(社会互动)形成过程,通过专家学术争论建构共识。评价的社会情境性建构了同行评议人之间的共享知识体系,评价活动不是个人行为,而是一种社会行为。评议人要进行专业化的训练,将自己置于情境化的场域中,正确对待学科立场和社会认知文化的影响,在普遍评价价值观和自我学科立场之间寻找平衡。
第三,评价者的先见与参与者的反思。在质化研究体系中,研究者进入研究过程本身具有价值预设,虽然我们在社会科学研究中倡导价值中立,但研究者的价值预设都会以一定的方式进入知识建构的过程。陈向明认为,知识真理都受到价值观和理论的制约,比如价值体系、意识形态和社会制度,以及社会历史的发展[39]。在期刊评价中,评价活动是一种价值判断,它具有社会性和公共性,并受到意识形态的制约。在同行评议过程中,评价者不可避免会有价值介入,文献计量学家从专业的角度很难处理同行评议中专家意见的分歧,所以,他们对专家意见的处理还停留在简单打分阶段,同行评议往往成为科学计量的补充和验证过程。这种研究视角对同行评议中质化资料的浪费,不得不说甚为可惜。其实,专家评议并不是追求形成一致意见,而是呈现出分歧的原因和社会机制。专家在评判过程中,虽有相对一致的学术评判标准,但是他们不免常常将自己置于所属学科的立场,维护评审专家的合法性。总有一流标准的多元性和不稳定性,以及在多元的价值标准下的取舍和平衡,比如是支持“一流”还是保持“标准多样性”的平衡[26]。对于参与者而言,他们可以从个体的经验出发,抽丝剥茧般地呈现社会和社会结构对研究对象的影响。评价对象在质化研究下可以参与评价过程,他们从个体的经验出发,可以呈现完整的社会结构对个体和群体的影响、束缚和限制。通过社会调研和公众参与,评价者增强了对评价对象的了解,并站在评价对象和利益相关人的位置思考问题,反思评价者之前的个人立场、地位和身份可能产生的偏见和偏好。评价者的反思精神从评价对象的当事人经验出发,了解他们的世界,建立崭新的视角,建构知识体系,从而破除定量研究所坚持的价值中立的迷思,摆脱评价者的成见和偏见。
第四,个案研究下的特色化评价。质化研究中个案研究具有重要的一席之地,它通过多个个案的深度分析(扎根理论)总结归纳结构性的问题,以此来了解社会运作的机制、人与人、人与社会的关系。个案研究本身,从方法论和认识论的角度并不强调普遍性和代表性,而是要揭示出制度所隐含的价值取向,直指问题的核心,清晰地呈现结构性的问题和个体的能动性,揭示出个案背后的权力结构和社会关系。在期刊评价中,对同行评议的宏观制度分析往往需要通过个案研究了解同行评议的外部制度环境,以及内部群体之间的互动关系和权力结构。比如各种类型学术期刊发展的历史轨迹和成长规律都充满着共性和个性的平衡,通用型的标准往往只能了解浅层次的发展规律,个性的特征需要在学科文化的背景下,通过个案研究了解评价文化,并建构特色化的评价体系。
英国在国家层面开展的大学研究水平评估设计中,也经历了类似的方法转向,早期的研究评估考核为了降低成本主要采用科学计量方法。之后他们发现科学计量方法根本无法代替同行评议,所以,在2014年推出了“研究卓越框架”,在研究产出和社会影响力方面对理论和应用型成果采用描述性材料评价,数据库检索和引用指标仅作为专家评议的参考信息,重视叙述性案例的证据支撑,强调信息的全面性和综合性[3]。这种评价不同于简单量化评价,它关注科学价值及其内涵,以建构主义为前提,重视案例在内的多样化证据,建构个案为基础的定性评估框架。
2.同行评议方法的质化拓展
同行评议的中国化和本土化要求我们必须研究中国的学术生产体制和学科文化,关注同行专家的学术社会背景和评议行为。它是一个面对面的对话和争论的共识建构过程,学科文化和专家的社会属性是评价的社会情境性,评价的过程包含了身份认同、政治立场、感情交涉等因素,每个学者都具有自己的学科立场,以此确定自己身份的合法性,事实上很多正式和非正式的标准和外部环境都会在评价中发挥作用,它淋漓尽致地体现出同行评议标准的多元性和不稳定性,以及跨学科评价的多样化。同行评议制度下的屈从、抵制、保守和反对,比如结盟和策略性投票也同样体现了评价交易成本信息的不对称性和评议人的社会性特征。
那么,如何看待同行评议从差异中产生共识并作出决策的过程呢?首先,他们的统一性在哪里?专家形成统一意见非常困难,但评价有一些通识性的价值理念,它和学术理念的价值规范标准相一致,专家会共享一套相对统一的学术价值观,如对学术的神圣性的尊重。其次,他们的差异性和多元化在哪里?实践中广泛存在这样的情况:不同专家的学科立场不同、学科范式无法兼容、学科所处社会情境的场域不同、学术发展阶段和学科成熟度不同、民主商讨和平台沟通的程度不同。这样,他们会建构不同的评价认知和文化。最后,作为评价者和研究者如何处理?通过社会调研法进行实证研究,分析学科文化和不同差异产生的原因,进而建立成功有效的对话、对评议人进行专业性训练;建立相关制度保障和进行有效的行政干预;建立自律学术共同体,倡导学术诚信,维护学术评价的神圣性;最终建构评议人之间的共享知识体系。
质性研究方法在同行评议中应用的核心是,通过实证研究解决同行评议中价值层面的问题。期刊评价的质性研究方法是将质性研究框架贯穿于整个期刊评价过程中,完善同行评议的社会调研法,通过社会田野方法研究同行评议的过程和限制性条件。从评价当事人日常经验出发,尊重参与者的经验和主体性,从具体到抽象的归纳法论证步骤可以对整个知识内涵进行再造。专家所处的社会情境性、价值体系、意识形态、社会制度等宏观因素会对价值判断和评价决策产生影响。对于他们如何建立标准、组织评价,支持一流还是尊重差别和多样性,如何确定学术资源分配平衡原则等,通过实证研究可以收集和分析这些质性材料,记录和分析评议过程,理解和阐释评价背后的价值理念和多元标准的社会属性,这体现了评价者的使命感和责任心。
从评价角度对学术生产和评价体系进行研究有利于了解学术场域的现状、学科文化和评议人的特点。质化研究有利于建立自律的学术共同体,形成信任、尊重、宽容的价值理念,维护学术评价的神圣性和权威性;建构合理的评价制度,进行有效的行政干预,建立沟通交流平台,让各利益主体进行成功有效的学术对话。
五、结语:评价者的反思与体系重构
评价工作是现代公共管理的重要手段,学术评价是建构学术场域中学术生产和竞争秩序的重要切入点,学术评价面对学术体系的复合型和复杂性,要在发挥评价指挥棒的同时,加强对学术评价的理论和方法研究。评价理论和方法具有跨学科视野,需要借鉴相关学科的理论和方法,如管理学、经济学、社会学和政治学等学科,加强评价主体的权威化、评价路径的科学化和评价结果的社会化[29]。评价理论发展在教育评价领域较成熟,也具有评价学的普遍意义和借鉴作用,评价理论的发展经历了测量评价、描述评价、判断和价值评价阶段[42]。教育评价理论发展经历了测量、描述、判断、建构、综合阶段。测量评价阶段追求测量结果的标准化和客观化,体现为测量技术手段的大量应用;描述评价阶段是对测量数据进行事实还原、解释分析;价值判断评价处理多元和个性化的对象,制定多元价值判断标准;建构阶段主要通过认知建构改变知识结构和思维模式,体现评价的诊断、判断和预测功能。在管理范畴下的评价侧重绩效问责和管理监控,而哲学范式下的学术评价要处理的是价值的多元性、利益相关者主体地位的平衡性、建构评价本体论、认识论和方法论体系。从权威评价的测量、判断阶段发展到评价利益相关人多方参与的对话、沟通和协商阶段,在评价过程中共建共享价值、处理价值多元性,评价者甚至要扮演历史学家和社会学家的融合合作角色。
从知识类型上看,人文社会科学领域的知识具有重复性、累进的非线性,以及注重特殊性、内涵性、受价值观影响等特点。因此,人文社会科学评价具有多元主义,知识价值标准存在争议,缺乏共识,其成果表现为理解和阐释。研究方法上重视定性研究和对特殊性的分析,评价方法更具有复合性和复杂性,评价过程涉及价值判断、情感交互,具有社会性和公共伦理取向,评价人的社会属性会潜移默化地影响他们的评价过程。因此,通过质化研究可以了解人文社会科学学科文化,以及评价的社会性和公共性。
学术期刊评价是学术评价的重要组成部分,建构合理、权威、科学和具有伦理底蕴的学术评价机制是一项系统复杂的工程,学术期刊的运行生态和机制对改善学术生态和完善学术评价机制具有基础和导向作用。从期刊发展规律认识学术生产体制的特点,这对学术期刊研究和评价具有重要的意义。在评价方法体系上,期刊评价也经历了从单一评价、简单量化评价到复杂评价和综合评价的过程。在质化研究体系下,我们要反思评价者的角色和定位,评价者需具有多样化和复合的知识储备,精通评价的方法和技术,记录和反思评价中的困境,用研究者的视野建构科学合理的评价体系。质化研究在期刊评价中的应用主要体现为实证主义、阐释主义和反思、批判精神。期刊评价方法需要经历三个阶段:简单量化评价、实证主义质化评价、共享价值评价阶段。在质化评价阶段,评价活动的社会建构性体现为一种从个体到群体层面的社会互动,对评价的实证研究主要是揭示学术生产的过程和不同学科文化特点。评价者要记录事件和行为发生的过程,通过归纳法寻找结构性关键问题和社会机制的因果关系。阐释主义旨在理解和阐释研究者和研究对象在事件情境中对行为赋予的意义。在评价活动中,评价者要关注评审过程,与评价对象进行合作,通过收集和分析信息,充分理解评价者和评价对象在评价过程中赋予的意义,并理解和阐释评价文化。最后,得出评价者和评价对象都可以理解、可信的评价结论。在认知建构层面,评价价值理念的批判和反思精神主要在于评价者和评价对象通过双向沟通形成有效的对话和沟通机制,建构评价共享知识。从参与评价当事人日常经验出发,尊重参与者的经验和主体性,对整个知识的内涵进行再造,加强评价运行机制的民主化。