新型研发机构评价研究综述及启示建议
——评价流程视角
2021-01-11孙雯熙马建霞
孙雯熙,陈 春,高 峰,马建霞
(1.中国科学院西北生态环境资源研究院文献情报中心,甘肃兰州 0 710000;2.中国科学院大学经济与管理学院图书情报与档案管理系,北京海淀 100190)
新型研发机构是聚焦科技创新需求,主要从事科学研究、技术创新和研发服务,投资主体多元化、管理制度现代化、运行机制市场化、用人机制灵活的独立法人机构,可依法注册为科技类民办非企业单位(社会服务机构)、事业单位和企业[1]。作为政产学研合作的重要平台,新型研发机构得到了国家及各省份的政策支持,新型研发机构的数量逐渐增多,地理分布、行业分布越来越广泛。与此同时新型研发机构在运行过程中出现了认知有偏差、经营困难、组织管理还需完善等问题。为了解决这些问题,新型研发机构的评价研究成为研究热点。在中国知网中检索新型研发机构相关的论文。检索式为关键词=(新型研发机构 or 新型科研机构 or 产业研究院 or 创业型科研机构),检索时间为2020 年9月23 日。如图1,从文献增长的角度来看,关于新型研发机构的相关研究正在成为热点。
图1 新型研发机构研究发文趋势
新型研发机构评价具有及其重要的应用价值。通过新型研发机构绩效评价,新型研发机构可以根据评价结果更加明确其发展定位,紧跟发展方向,确保其沿着准确方向继续快速壮大。同时,政府可保证新型研发机构的组织管理公平公正公开、并作为新型研发机构激励措施的依据。评价工作在新型研发机构发展的各个阶段都能够发挥作用。在申报新型研发机构时,相关组织需要评价新型研发机构的资质、定位、资源配置等;在新型研发机构初期及之后的发展阶段,评价工作可用来调整发展战略、凸显特色研究领域。本文在总结当前新型研发机构绩效评价研究的基础上,提出相关建议。
1 新型研发机构评价政策的区域差异分析
新型研发机构评价政策相关内容包括两方面:机构遴选和绩效评价。机构遴选是对新型研发机构的初步评价,本章节总结了新型研发机构申请政策、绩效评价政策以及新型研发机构管理中与机构评价相关的政策内容,从而得出当前国内现有新型研发机构评价相关政策的区域异同。
1.1 申请政策内容分析
截至2020 年1 月,我国共有22 个省、直辖市开展了新型研发机构的建设工作。在新型研发机构申请条件方面各省基本都围绕机构定义、研发经费、研发队伍、办公和科研场所、仪器设备、体制机制、运营时间这几个方面做出规定。申请条件基本上都涉及:新型研发机构应在本地注册并作为主要办公地点,具有独立法人资格;开展基础研究、应用基础研究、成果转化、研发服务等工作;围绕当地特色产业和战略性新兴产业建立;投资主体多元化;具备研究、开发和实验所需的各项基础设施和固定场地;运营时间达到1 年以上;常驻研发人员占职工总人数比例达到30%以上。但在运营时间和创新发展方面也略有差异,如苏州市新型研发机构的运营时间要求不少于半年,山西省规定创新发展方向优先支持山西省14 大标志性、引领性产业集群内布局的新型研发机构。表1 列出了其他部分省市申请条件的区域差异。
表1 新型研发机构申请条件政策对比
表1 (续)
1.2 绩效评价政策内容分析
新型研发机构评价政策内容总体上基本一致,基本围绕研发条件、体制机制、研发团队、创新活动、创新成果、成果转化、创新效益、社会效益8 个方面的指标。评价周期一般为3 年。比较有代表性的评价形式有组织召开专家评议会、根据指标体系评估绩效、动态周期性评价等。评价结果与激励政策挂钩,激励措施包括项目支持、资金奖励、基础设施购置、人才认定等。
除江苏省外,其他省份都是以省级政策方式部署新型研发机构。江苏省新型研发机构相关政策由各个地级市或区制定实施,新型研发机构分为市级新型研发机构和区级新型研发机构。
2 新型研发机构评价研究现状分析
新型研发机构评价的目标和内容形式多样。新型科研机构的创新和研发活动不仅需要考核科研和学术成果,如研究论文、专利量和类型等,更将从培育高科技企业、服务区域创新能力及社会成果转化能力等方面进行考察[2]。有关新型研发机构评价的国内研究最早可以追溯到2012 年谭海斌[3]发表的期刊论文《关于新型研发机构的研究和思考》,文中提到要以推动科学研究的实际贡献来评价研究结果;以及2012 年李玲玲[4]发表的学位论文《新型研发组织的运行与绩效评价研究》,文中结合武汉市东湖开发区的调研和问卷调查,运用主成分分析法构建了新型研发组织的绩效评价指标模型。借鉴GB T 22900-2009 科学技术研究项目评价通则标准的思路,针对国内新型研发机构迅速增长现状,本文通过梳理国内新型研发机构评价研究,分类总结新型研发机构评价原则、评价理念、评价指标和评价研究实证挖掘评价研究中存在的问题,提出相关建议。
2.1 评价原则
评价原则是评价的前提和指导思想,确定评价的基本原则对于把握评价方向、选取评价方法、优化评价流程、促进评价结果的公平公正具有重要意义[5]。当前研究中涉及的新型研发机构的评价原则如下:
相关性原则或一致性原则。在为新型研发机构选择指标时,评价指标应与绩效管理的目标一致,全面完整地反应评价目标的实现程度。
重要性原则。应当优先使用最能代表评价对象、最能反映评价要求的核心指标。比如中科院宁波工研院的绩效评价体系强调对地方经济增长的实际贡献[6]。
可比性原则。对同类评价对象要设定共性的绩效评价指标,以便于评价结果可以相互比较。
可操作性原则。评价新型研发机构需要保证其评价措施可行、指标通俗易懂且易于获取、去除评价流程中繁琐的部分,符合成本效益原则,增强评价工作的便捷性。
客观性原则。新型研发机构评价流程的各个方面都需要客观公正,需要采取相关措施防止操纵指标等行为。每个流程所产生的数据从获取到整理需要保证其准确、全面。评价结果计算 方法需要合乎逻辑。评价结果能够获得专家及公众的认可。
时效性原则。新型研发机构在不同的发展阶段所需的评价需求不同,所以需要灵活调整评价策略,做出适合时间发展的评价结果。
过程性与结果性相统一的原则。评价内容体现多元化特征,既要注重考察科研成果数量与质量、技术转移与转化效果、孵化企业数量、领军人才引进、组织利润等定量要素,也要评价其运行模式、人才管理机制、协同合作机制、激励机制和创新文化等定性变量[7]。
平衡性原则。在选取评价指标时应做到主次有序,为某一个方面选取的指标个数应相对平衡,不能出现某一方面指标过多,另一方面指标过少,甚至只有一个,否则评价不能够完全反映出真实的结果[4]。
前瞻性原则。新型研发机构在评价指标选择上要充分考虑其未来的发展趋势和发展状况,通过部分指标的设置和选择,保证其未来的发展能满足市场的需求和政府的引导方向。也就是说,在指标选择上应实现压力指标和激励指标的有效结合[8]。
独立性原则。评价指标应尽量避免指标之间的内容交叉,同时选取尽可能少且全面反应评价内容的指标,避免指标的复杂性。
系统性原则。新型研发机构评价指标体系是一个多维度的复杂系统,其协同治理效果评价指标的构建须注重指标之间的关联性和层次性,各个层级的指标共同构成一个完整的评价系统。系统性原则要求评价指标体系保持系统的完整性,指标应涵盖所评价的新型研发机构的方方面面[8]。
2.2 评价理念
本文中的新型研发机构评价理念是指除评价工作具体实践(如指标选取、数据处理、结果计算等)之外的研究内容,包括对新型研发机构评价流程、新型研发机构评价问题解决方案、评价的重点、评价方法建议等的内容。
当前对新型研发机构评价理念可总结为以下内容:
采用第三方评价,或者自我评价和第三方评价相结合的评价方式[7,9-13]。第三方评价具有评价客观、可信度高、评价流程和方法专业等优点。尤其在当前国内新型研发机构数量众多且增长快速的情况下,第三方评价可以弥补机构自我评价产生的评价质量参差不齐、评价指标难以对比等缺点。
采用同行评议[13-14]。以传统同行评议为基础的决策判断始终是研发评价的首要量度工具,且地位无法取代[15]。在定量分析的基础上增加同行评议有利于增强新型研发机构评价的权威和可信程度,但要加强同行评议流程的规范性,加强监督。
定期动态分阶段评价[7,9,12,16-20]。当前新型研发机构正在从无到有陆续建立和发展中,不同阶段的发展需求不同。评价需根据发展的具体需求,适时调整新型研发机构评价的内容。通过机构年度报告和第三方评价机构动态调整新型研发机构的进入与退出。
分类评价[12]。因地区经济发展水平和特色、发展需求、行业特征、研究类型等存在差异性,以及新型研发机构内部人才类型和项目团队的不同,进行分类评价可以使评价结果更加客观,满足不同领域的评价需求。在人才分类评价方面,新型研发机构人才评价可分为教学型人才、教学科研综合型人才、科研型人才、创新创业型人才的评价[21]。在机构类型方面,湖南省将新型研发机构细分为四类:产业技术协同创新类(政府主导型)、产业链联合创新类(企业主导型)、企校联合创新类(产教联合主导型)、专业研究开发类(科研骨干主导型)[22]。湖北省将新型研发机构分为产业技术研究院(A 类),产业创新联合体(B 类),专业型研究所(C 类)和企校联合创新中心(D 类)[23]。广西省将新型研发机构分为企业类、民办非企业类和事业等三种类型[24]。
注重评价结果运用,评价与奖惩制度相结合[16]。对于测评合格的给予绩效奖励;对测评不合格的,限期整改。如仍不合格,取消“新型研发机构”资格,不再享受相应政策扶持。
加强团队绩效考核[18]。绩效考核兼顾科研团队的论文专利、科研项目、科技成果转化率等各个方面,既要考核这些项目指标的具体完成情况,同时也要考核团队的实际效果和科研操作能力。
产学研等多方主体共同参与评价[7,11]。在评价主体方面实施多元化评价模式,尝试构建包括政府部门、行业协会、社会公众等利益相关者的评价主体。发挥政府的组织协调作用,突出第三方主体的相对独立评审功能,注重社会公众的监督作用。
以科技成果转化效果作为评价重点[12]。传统研发机构带有计划经济管理的色彩,主要以科研成果为根本性评价指标,而新型研发机构应在注重科研成果的同时,更重视通过企业孵化、所企合作以及衍生企业等方式,直接促进科技研发成果的运用与转化[25]。为了发挥新型研发机构的这一特色,科技成果转化效果应当作为评价重点。
发挥新型研发机构评价的导向作用[13]。新型研发机构评价不只是对新型研发机构当前水平的评价,更是可以发挥导向作用,通过评价工作的约束促进新型研发机构朝着正确方向发展,导向作用可以分为以下几种:通过评价指标帮助新型研发机构的认证,确保新型研发机构符合社会发展需求;评价内容反映新型研发机构的发展目标,激励新型研发机构根据评价内容调整发展战略,发现不足和指导未来需要加强的领域。绩效指标不仅应包含对机构方面的绩效考核,也应包含对个人的绩效考核;绩效指标既要凸显对短期的直接应用性研究的考核,又不放松对长远性战略性的基础研究的考核,另外应该兼顾国家战略和企业需求[14]。
政府在新型研发机构中发挥的作用因地区经济发展水平而不同。有研究认为欠发达地区新型研发机构应以政府为导向[26]。科技发展必须进行大量的前期基础设施的建设资金投入,但是科学研究具有较高的不确定性,科研成果的数量、质量以及转化率无法得到保证。这种巨大的创新风险是新型研发机构等创新主体无法独立承担的,因此政府需要在对创新风险进行科学评价的基础之上,确认创新风险相对较大的创新项目,并与新型研发机构等创新主体一同实现创新风险共担[25]。但发达地区如广东省的一些研究认为政府只负责制订其总体发展规划、评价标准和评审程序,具体的评价工作由第三方科技中介机构组织完成[11]。
2.3 评价指标
评价指标是新型研发机构评价过程中非常关键的流程。评价指标决定了能否科学、全面、客观、有所侧重地得出新型研发机构绩效评价结果。
在评价指标的确定方法方面,确定评价指标的方法主要有国际相关文献比较、文献调研、社会网络分析。
通过总结已有文献中的一级评价指标信息可以得出,科研能力、成果转化、研发投入这类评价指标最常用。此外还有组织协作、人才培养、经营管理水平等,如表2 所示。很多类指标虽然名称不同,但其二级或三级指标有不同程度的相似性。可见当前的评价指标内容大体上符合新型研发机构重视发展科研和成果转化的方向。
表2 新型研发机构常用评价指标 单位:次
表2 (续)
评价指标主要以某一新型研发机构、所在城市[27]、所在省份、行业为例,来制定评价指标。比如中等城市产业技术研究院、北京新型研发机构、广东省新型研发机构[28]、高校主导型产业技术研究院[29]、上海生物医药功能型平台[30]、磷化工产业技术研究院[31]。
在相关研究中,评价指标除了针对新型研发机构整体的评价指标体系,还有针对新型研发机构某一业务方向的评价指标体系。比如新型研发机构产学研合作模式[32]、新型研发机构竞争力[33]、成果转化扩散绩效[34]、人才分类评价[21]。
评价指标既有定性指标又有定量指标。定性指标主要有:领导管理水平、规划落实能力、团队创新意识、创新管理制度[35]、市场竞争分析、外部合作能力、软环境培养、创新氛围、创新文化[35]、成果转化机制、专利技术是否领先或是否填补国内空白、专利技术是否存在替代技术方案[36]、建设规模[34]。定量指标主要有:项目数量、经费投入、固定资本、运营收入、孵化引进企业数量[34]、人才数量、论文数量、高被引论文数、专利数量、获奖数量等[36]。
评价指标在数值类型方面以个数和金额为主,其次是比重型数值、评分型数值、排名数值、平均值等。对于各类指标应当采用何种数值尚未有相关研究指出。
在评价指标的权重方面,权重比较高的指标和使用频次比较高的指标基本一致,都属于科研能力或成果转化类指标。权重的确定方法既有主观赋权法(国际比较法、专家调查法、文献总结法),又有客观赋权法(主成分分析法[27])。
2.4 绩效评价的实证研究
国内开展新型研发机构评价的实证研究越来越多。评价实证研究从2012 年开始出现,到2017 年快速增长。所评价的新型研发机构多集中在新型研发机构发展规模较大的东部地区,以广东省为主,多以某一城市或机构为评价对象。
这些实证研究可以分成三类:
(1)探讨并列出可行的新型研发机构评价指标。确定指标的方法有文献计量法、社会网络分析法、德尔菲法、专家论证、调查问卷、案例分析、结构方程模型。在确定评价指标过程中,有些研究会把多种方法结合使用,从而验证并增强指标的科学性。使用次数比较多的方法为德尔菲法、专家论证和案例分析,可见评价指标来源于专家和实践。德尔菲法、专家论证、调查问卷和案例分析是确定指标的经典方法,本文不再赘述。而文献计量法、社会网络分析法和结构方程模型在确立新型研发机构评价指标过程中发挥了独特的作用。通过文献计量法和社会网络分析法相结合,可以有效筛选相关文献内容、获得词频数据,然后通过社会网络分析法确定指标词之间的关联关系,从而优化筛选指标[35]。结构方程模型(Structural Equation Model,SEM)是基于变量的协方差矩阵来分析变量之间关系的一种统计方法,因此也成为了协方差结构分析。结构方程模型属于多变量统计分析,整合了因素分析与路径分析两种统计方法,同时可检验模型中的显变量(测量题目)、潜变量(测量题目表示的含义)和误差变量之间的关系,从而获得自变量对因变量影响的直接效果、间接效果和总效果。结构方程模型在新型研发机构评价中的作用是挖掘评价指标之间的调节关系。
(2)探讨新型研发机构指标和结果的计算方法并开展实证研究。计算方法如密切值法[35]、层次分析法[8,27,28,37-41]、网络层次分析法[34,42]、模糊综合评价法[8,39]、DEA 法[43]、主成分分析法[4]、加分评价法[43]、因子分析法[27]。这些方法都是统计学中的经典方法,其中层次分析法使用次数最多。但是这些方法经过长时间应用实证,其局限性逐渐突显出来,新型研发机构评价结果计算方法有待使用最新的优化过的统计方法进行实证。
(3)综合定性评价方法。这种方法指在确定评价指标后,针对被评价的新型研发机构,根据评价指标分类进行案例分析,从而得出新型研发机构的评价结论。这种方法的优点是不受具体指标的局限,充分展示新型研发机构各个方面的实力,缺点是过于主观,难以进行比较,可行性较弱,大范围扩展实施会因评价者不同容易出现评价结果参差不齐的情况。比如赖志杰等[44]使用其建立的新型研发机构核心竞争力二元结构模型,评价了广州市香港科技大学霍英东研究院的技术能力、管理能力、资源能力和创新能力;王勰祎等[30]使用权益人理论和资源依赖理论提炼出资源投入、资源整合、产出三个一级指标,根据这三个方面的指标来论述上海生物医药功能型平台绩效。
3 新型研发机构评价研究启示及建议
结合上述新型研发机构评价研究综述和国家及地方出台的评价指导方针政策,本文提出以下几点发展建议:
(1)与时俱进,引入新的评价理念并加以实践验证。评价理念有待落实并验证其适用性。有些评价理念可以优化评价流程,但还尚未付诸实践,同时有些评价理念在理论逻辑方面虽然合理,但还需要实践去验证其适用性。评价工作者需要随时跟进当前最优秀的评价方法,明确各个评价流程的优缺点,扬长补短,及时调整评价措施,保证评价结果公平合理。比如目前国内正在破除科技评价领域的“唯论文”乱象、倡导注重科研质量和贡献评价、采取代表作制度、将项目成果、研究报告、专著译著、工程方案、技术标准规范等纳入代表作范围等。在扩大科研自主权和体制机制灵活性的背景下,评价内容以成果导向还是以组织管理导向、这两种导向各自能够发挥怎样的作用、是否能够促进新型研发机构发展的灵活性还有待探讨。
(2)建立分类评价体系。根据实际情况和日益变化的发展需求,不同地区、不同行业各项指标不同,权重也应不同。固守惯有的指标和评价方法容易导致过度强调评价的权威性,失去了评价结果的客观性。新型研发机构需要建立分类评价体系,围绕科学研究、技术创新和研发服务等,科学合理设置评价指标,突出创新质量和贡献,注重发挥用户评价作用[1]。针对新型研发机构的不同类型分类评价,如产业技术研究院、产业创新联合体、为专业型研究所(公司)、企校联合创新中心等。实行科研项目绩效分类评价,根据需要引入国际评价。建立相关部门为高等学校和科研机构分担责任机制,对自由探索和颠覆性技术创新活动中已履行勤勉尽责义务,但因技术路线选择失误导致难以完成预定目标的单位和项目负责人予以免责。加强科研诚信建设,营造良好学术风气[45]。
(3)在评价研究实证方面增强流程完整性,探索并比较多种评价方法。在评价研究实证方面,评价对象的范围和数量普遍比较小,难以确定这些实证研究是否适用于其他某一新型研发机构或者更大范围的新型研发机构。相关研究的评价流程不够完整。有些研究在绩效评价方面只总结出了评价指标,缺乏权重、数据处理、评价方法选择等实证,难以确定可行性。在评价过程中需要强调实用性和市场性这两个评价目的[46]。新型研发机构具有地方和行业特色,很多实证研究的评价范围比较小,这种评价模型是否适用于其他新型研发机构有待继续实证。探索多样化评价方式,除设定指标加权计算外,可以对比试验并验证多种评价方法的效果。
(4)评价指标侧重科研和产业化能力,优化评价指标。新型研发机构评价指标存在的问题有缺乏各项指标定义、范围、计算方法的合理性解释、定性指标和定量指标不明确、指标的数值类型选取不当。新型研发机构评价指标的具体建议有:1)评价指标需要贴合评价需求,有扎实的理论和实践基础,可行性高,指标内容具有代表性,能够精准反映新型研发机构的绩效。根据新型研发机构的性质和作用,其评价指标应侧重科研和产业化能力。在评价过程中各级别指标应加以合理性解释,明确各项指标计算方法[34]。新型研发机构评价体系需要定性指标和定量指标结合,选择合适的指标数据类型。指标数值类型不应简单的数量来计算,需要根据实际情况选择如0-1 型、绝对数值型、占比型和区间型等数值类型。新型研发机构在吸收人才、科技、项目等方面,存在“重数量轻质量、重创新点轻地区产业特色”的现象[46],平均值或者比率类的指标比数量类型的指标更能反应新型研发机构的发展质量。2)当前文献计量学和统计学逐渐完善,取得了一定进展,因此评价指标的数值表示方式也需要与时俱进,采用最先进的指标计算方法。比如统计科研成果时采用代表作来代替论文数量、使用改进后的H 指数等新指标来代替简单通过论文数量来评价人才等[47-49]。3)谨慎考虑指标的适用性,有些指标因为研究领域、科学家或机构的年龄等因素而不适用于比较评价。根据德国马普创新公司的经验,使用波束图来评价人员机构较为合适[50]。4)关注开放科学类等新型指标。开放科学实施程度能够反映新型研发机构的科研和管理水平和潜力。虽然目前国内开放科学发展并不充分,但是在开放科学的大势所趋下,新型研发机构想要发展其科研实力、加快科研传播和转化能力,就必须加强开放科学建设。所以开放科学类指标虽然不适用于当前环境,但可根据未来科研趋势发展考虑将其作为重要的评价方面。