意大利科研评估体系、实践经验及对中国的启示
2024-05-06马宗文张金倩楠刘润达
马宗文,方 慈,张金倩楠,刘润达
(中国科学技术交流中心,北京 100045)
科技评价改革是中国科技体制改革的重点,党的二十大报告强调,要深化科技评价改革,并提出要提升科技投入效能,深化财政科技经费分配使用机制改革,激发创新活力。科研评价(评估)或科研绩效评估是科技评价的重要分支,主要是指对大学科研机构以及科研项目的评估。对致力于科技创新和保持科技竞争力的国家,其对科研的有效评估至关重要。实施科研绩效评估管理,是优化公共科研资源配置、提升科研机构研发服务品质和改善科研机构科研管理的重要手段[1]。完善的科研评估体系有助于提升高校和科研机构的科研影响力和国际竞争力。科研评价“破四唯”逐渐成为中国科学共同体的共识和科技体制改革的发力点,但如何更好地开展科研评价,需要遵循科研活动的基本规律,以及借鉴国外行之有效的评估经验。
欧洲在科研绩效评估管理方面一直走在世界前沿,相关研究显示英国和意大利的科研评估工作富有成效[2],目前国内对于英国科研评估工作经验的介绍较多[3-5],但对意大利科研评估体系的介绍较少。意大利高度重视对科研机构、科技计划和项目的评估,将评估作为政府科技管理职能的重要组成部分,在科研领域进行公共投资决策时,评估是必不可少的环节。意大利将对科研机构的评估结果作为分配公共经费的参考指标,其对于科研项目的评估,不仅包括项目的“经济成本”,更重要的是评估项目实施的可行性、潜在收益和中长期衍生品等。本文以意大利大学和科研机构的科研评估为研究对象,对其演变过程及具体实践进行梳理、分析与归纳,旨在为中国科技评价改革提供参考。
1 意大利科研评估演化脉络及现有体系
意大利系统性科研评估工作起步较早,1998年在大学与科研部内成立了科研评估指导委员会,对研究成果、科研机构、科技计划、技术应用和推广活动等开展评估。
进入21 世纪,在科研公共经费削减的背景下,意大利进一步完善科研评估体系,2010年机构改革时,在大学与科研部成立了国家科研担保人委员会,对科研计划和项目的评审进行指导、协调和监督。2011年组建了独立运行的国家大学与科研机构评估署(Agenzia Nazionale di Valutazione del Sistema Universitario e della Ricerca,ANVUR),采用具有国际可比性的评估参数、指标和方法,对科研机构和高校的科研活动进行评估,定期发布评估报告,评估结果作为意大利分配公共科研经费的参考依据。2021年意大利大学与科研部再次进行改革,在国家科研担保人委员会的基础上重新组建国家科研评估委员会(Comitato Nazionale per la Valutazione della Ricerca,CNVR),以加强对科研评估工作的组织管理,并进一步简化任命程序,该机构负责管理国家公共科研资金[6]。意大利目前公共科研项目评审、科研机构评估的组织架构如图1 所示。
图1 意大利公共科研项目评审、科研机构评估的组织架构
1.1 国家科研评估委员会
根据意大利2021年第77 号法令,在大学与科研部成立国家科研评估委员会,对国家资助的科研项目行使监督和保障职能,其主要职责是制定项目评审标准、任命评审专家和协调专家开展评审活动,目标是确保同行评议制度的良好运行。
国家科研评估委员会的委员由来自意大利国内外的15 名专家组成,委员以“简单多数赞成”的方式选举该委员会主席,委员会制定内部组织和运行规则。目前该委员会15 名成员中(见表1),有女性科学家6 人;分学科领域看,自然科学与工程领域6 人、生命科学领域5 人、社会科学与人文科学领域4 人,具有广泛的学科代表性[7]。
表1 意大利国家科研评估委员会成员
国家科研评估委员会的具体职责包括:一是提出科技计划评估的通用标准,主要参考意大利加入的国际组织或国际条约所推荐的标准;每年根据实际情况对通用标准做出修订,发布相关科研计划的评估标准和评审程序。二是任命科研计划和项目的评审专家并协调其开展工作。选择评审专家时,按照专业领域,设定具体条件,在意大利科学评估同行评审专家系统(Register of Expert Peer Reviewers for Italian Scientific Evaluation,REPRISE)中自动生成候选专家,再根据回避原则(过去2年内未牵头承担国家科技计划项目,过去4年内未与被评估项目负责人合著论文等)淘汰不符合要求的专家,然后由国家科研评估委员会根据专家的专业能力、评审经验等进行综合打分,按得分高低排序,确定最终评审专家名单。
1.2 国家大学与科研机构评估署
国家大学与科研机构评估署成立于2011年,主要职责是在自主、公正、专业和透明的原则下,对意大利高校和科研机构进行独立评估。其评估结果作为公共资源分配的参考标准,确保国家高等教育和科研系统的高质量。
该机构管理层包括:主席、理事会和审计委员会,每届任期4年,可连任。主席作为法人代表,由理事会成员以“2/3 多数赞成”的方式选举产生。理事会处于管理架构的核心,成员为7 名,由意大利国内外的知名科学家担任。理事会独立决定机构的管理、运作方式,制定评估标准、方法和评估计划,批准年度预算并负责提交最终评估报告。理事会根据主席建议任命内设机构的负责人。审计委员会成员为3 名,负责行政业绩和会计规则的核查。
国家大学与科研机构评估署的理事会产生程序复杂。首先由意大利大学与科研部长、经济合作与发展组织(Organization for Economic Co-operation and Development,OECD)总干事、意大利林琴国家科学院院长、欧洲研究理事会主席、意大利国家大学生委员会主席每人推荐1 名有威望的科学家,成立5 人组成的遴选委员会,遴选委员会提交10 ~15 人组成理事会候选人员名单,意大利大学与科研部部长从该名单中选出7 人,形成理事会建议名单。该建议名单需经意大利部长理事会、参议院和众议院表决通过,最后由总统签字正式任命[8]。高规格的任命程序,可以彰显该机构的权威性。
该机构的主要职能包括:评估大学和科研机构的管理、教育、研究和技术转让活动的过程、结果或产品的质量;制定对大学和科研机构的架构、教育培训课程的评价标准和评估方法;对大学和科研机构内部评估委员会的相关活动进行指导,如联合确定评估标准、方法和指标体系等;制定国家科研资金分配的参考系数,包括基本绩效水平和运行成本参数等;根据预期目标和预定义参数,评估大学与科研部和相关机构计划协议的执行效果,以及相关机构对提高科研系统整体质量的贡献;评估用于资助和支持教学、科研和创新活动的公共资金和激励计划的效率和效果[8]。
该机构对大学和科研系统的评估结果是国家向高校和科研机构分配公共经费,以及向完成特别重大科研成果的机构发放奖励基金的参考。评估结果定期向社会公布,被评估机构如有异议可提请复议,该机构将按有关程序进行处理。
1.3 意大利科学评估同行评审专家系统
意大利科学评估同行评审专家系统是由大学与科研部建立的独立运行的专家登记系统,系统中的专家将被任命从事与科研项目资助有关的评审活动,包括事前、事中评估,以及发放科研补助金的事后评估。除大学与科研部外,该系统也可被高校、公立科研机构、基金会、地方政府和其他部委用于开展科研资助项目的评审活动。
意大利科学评估同行评审专家系统详细记录了专家信息,包括个人资历、科研能力和参加评审的情况,如收到任务次数、放弃任务次数、接受并完成任务次数等。该系统内包括意大利国内外的专家,分为4 个领域:基础研究、竞争性行业和社会发展研究、科学文化传播、经济-财政评估和行政-会计审计。意大利大学与科研部2016年第380 号部令规定了同行评审专家的入库标准,具体如表2所示[9]。
表2 意大利科学评估同行评审专家系统入库标准
专家需要到该系统中自行提交申请,国家科研评估委员会负责审核工作,根据意大利大学与科研部要求,每位入库专家需要每年在系统中更新个人档案,连续5年未更新档案或未确认的专家将被系统除名。
2 对高校和科研机构科研质量评估的实践
意大利建立了国家科研质量评估(Valutazione della Qualità della Ricerca,VQR)体系,对大学与科研机构开展不定期评估。国家大学与科研机构评估署分别于2013年、2016年和2020年启动了2004—2010年、2011—2014年、2015—2019年3 期国家科研质量综合评估[10]。最新一期评估报告于2022年7月向社会发布。
2.1 对高校和科研机构科研质量评估的主要实践
意大利国家科研质量评估分学科领域进行,具体分为:数学与计算科学,物理学,化学,地球科学,生物学,医学,农业与兽医学,建筑与土木工程,工业与信息工程,古典文学、语言文学和历史艺术,历史、哲学、教育学和心理学,法学,经济与统计学,政治与社会学14 个领域,在每个领域成立评估专家组,评估专家组采用同行评议和文献计量学相结合的方法,开展独立评估工作,其中对理工学科的评估主要采用文献计量法,对人文和社会科学的评估以同行评议为主。文献计量法主要考察指标是文章的被引用率和发文期刊的影响因子。同行评议的主要标准是原创性、方法的严谨性和潜在影响等。2011—2014年、2015—2019年的评估中,评估专家组人数分别为486 名和645 名,再加上外部同行评审专家,参与评审的专家总数分别达到1.3万名、1.4 万名,其中国外专家占比约为20%[11]。
2015—2019年意大利最新一期国家科研质量综合评估对象是全国的96 所高校、14 家公立科研机构和22 家公私合办科研机构。高校和科研机构需在指定日期前提交本单位教授和科研人员的成果或作品,包括研究论文、专著或专著章节、会议论文、科学评论、著作翻译、专利、软件和数据库等[11]。最近2 期国家科研质量评估提交的代表作情况如表3 所示。
表3 意大利国家科研质量评估提交代表作的情况
评审过程中,专家对提交的代表作进行评价,并按照科研成果水平进行分级赋分(见表4)[11]。对所有作品得分进行汇总后,计算科研成果的质量。
表4 2011—2019年意大利国家科研质量评估分级标准及赋分情况
完成科研成果质量评价后,再进行总体评价。在总体评价中,各指标的权重如表5 所示[12]。最后,按照总体评价结果的得分情况,对高校和科研院所分别进行排名。
表5 意大利国家科研质量总体评价指标权重 单位:%
意大利国家科研质量评估结果是大学与科研部分配国家一般性财政基金(Fondo di Finanziamento Ordinario,FFO)的重要参考依据。根据意大利2013年大学与科研部第98 号部令,2014、2015 和2016年FFO 总额的16%、18%和20%将根据国家科研质量评估结果分配,而且以后逐年增加,2018年已经达到约25%(约15 亿欧元),最终目标是达到FFO 总额的30%。为了避免出现因评估结果差而造成获得的FFO大幅减少的情况,该部令还规定,高校和科研机构每年的资金减少幅度不超过5%[12]。此外,意大利国家科研质量评估结果还是大学与科研部发放“激励基金”的参考指标。
2.2 意大利学界对科研评估的评价
意大利学界对科研评估的讨论较多,对评估的态度较为复杂,一部分人认为科研评估制度特别是对评估结果的使用带来了正面效应,还有一部分人认为评估造成了较多负面影响。
正面评价主要包括:(1)优化了科技资源配置。在开展科研评估之前,意大利国家科研资金分配模式主要基于大学和研究院所的规模,采取按人数平均分配的方式,而开展科研评估后,则基于绩效评估结果,资源被更多地分配给更有效使用资源的大学和研究院所,对于国家整体而言,优化了科技资源配置,提高了产出效率[13]。(2)提高了科研质量。通过开展科研评估,意大利更加重视科研质量,将质量成为科研发展的导向,整体科研质量得到提升。根据相关测算,引入科研评估体系之后,意大利在医学、农业科学等受国际关注的学科领域的影响力进一步提高[14]。(3)有利于科研成果转化。科研评估包括了对专利和知识产权等转化性成果的评价,有助于将大学和研究机构与产业界联系起来,引导大学和研究机构与企业合作开展研发活动,促进了知识和科研成果的转移转化。
负面评价主要包括:(1)破坏了科研环境。论文导向的评估体系导致部分科研人员采用不恰当的手段以提升引用率,甚至组织“引文圈子(citation club)”,其成员通过内部交换各自的论文并互相引用,以提高成员的论文引用率,这种做法破坏了意大利的科研环境[15]。(2)加剧了科研和教育的地区不平衡。意大利北部地区经济发达,地方政府对科研的投入水平高、产出大,因此其科研绩效评估结果要好于南部地区,导致国家向北部地区投入的科研资源进一步增加,南北差距进一步扩大,长此以往,将不利于国家整体科研和教育的均衡发展。(3)评估过程遭到质疑。部分学者对评估过程的公开性和透明性,以及评审专家的代表性和客观公正性表示质疑。
3 意大利科研评估的主要经验
通过对意大利科研评估体系、制度建设,以及运行机制和评估实践进行梳理分析,对其主要经验总结如下。
3.1 程序规范、组织严密的评估管理体系
意大利国家科研评估委员会从制定一般评审程序到任命各科研计划的评审专家,对科研评审工作的各环节进行全面指导、协调和监督。国家科研评估委员会和国家大学与科研机构评估署理事会组成人员经过了意大利国内外科研管理部门层层推荐与遴选,最大限度地分散了权利并遵循利益回避原则,该委员会成立后进行自我管理,并独立开展工作,减少外部干扰,保障公平公正。
3.2 多主体、多领域、多维度的评估体系
意大利通过设立国家科研评估委员会和国家大学与科研机构评估署,分别对科研项目和科研机构两个主要对象组织评估。在国家科研质量评估中,细分学科领域,分组分类开展评估,重视对科研卓越性的评价。同时,引入第三使命评估[16],不仅在评审专家库中加大“科技对社会影响”领域专家力量,而且在评估时注重对专利、软件和技术转移方面成果的评估,强化对社会贡献的成果导向。
3.3 “定量+定性”组合赋权的评估方法
采用同行评议和文献计量学相结合的方法,并根据各学科特点采取不同组合的赋权方式,对理工学科的评估以文献计量为主,对人文和社会科学的评估以同行评议为主,同时根据评估专家组的综合评判,最大限度地做出客观公正的评价。在科研机构的综合评估中,除考虑科研成果质量外,还增加了对科研资金数量、科研人员素质和机构对科研重视程度与国际化水平等方面的评估,体现了评估的综合性。
3.4 评估工作的国际视野和国际水准
允许国外专家进入评审专家库系统,体现评审专家的国际视野。请国外科研机构或国际组织的负责人推荐遴选专家,扩大本国科研的国际影响。在科研评估机构或部门的决策层中拥有一定数量的国外专家,加强外部力量对相关程序进行监督的同时,确保决策过程的国际水准。邀请国外同行专家定期对科研评估工作进行评估,即所谓的“元评估”,以提高评估工作的规范性。
3.5 评估结果对科技创新的导向作用
意大利国家大学与科研机构评估署定期发布评估报告,作为国家向高校和科研机构分配公共经费以及向完成特别重大科研成果的机构发放奖励基金的参考。在评估结果的导向作用下,高校和科研院所的管理者更加重视科研质量,并将这种压力层层传导到科研人员,对意大利科研界产生了广泛而深远的影响。意大利近两次国家科研质量评估实践证明,这不仅对科研主体形成了有力的监督、督促作用,也有效发挥了评价指挥棒和风向标作用,引导科技创新发展[12]。
3.6 专家库信息系统对评估的良好支撑
采用“自愿申请、机构审核”的专家入库模式,确保专家来源和学术专长具有广泛代表性。合理设计专家库信息系统,强化信息更新反馈功能,确保专家个人信息和评审记录登记完备、更新及时。从专家库选取专家时,一方面充分依靠专家系统自动筛选评估专家组,另一方面对筛选出的专家进行评估排序,以确定最终名单,确保针对每项评审任务,选出最合适的评审专家。
4 对中国科研评价改革的启示
意大利的经验对完善中国的科研评价体系具有借鉴意义,相关启示如下。
4.1 提升评估的独立性并注重发挥评估结果的导向作用
提升国家科研评估机构的独立性和专业化水平,加强评估机构的内部管理,提高评估质量。完善评价指标体系,根据科研活动的类型,分类设定评估指标和权重比例,加强对经济发展和社会贡献的评估,充分体现新型举国体制优势。将科研评估与资源配置、人才激励等结合起来,根据评估结果对研发重点、资金分配和资助方式等进行动态调整,特别是根据评估结果,加强对基础研究的长期稳定支持。
4.2 探索建立“量化指标+专家研判”综合评价指标体系
目前中国在科技成果评价中已广泛采用“代表作”评价制度,建议在此基础上继续探索体现不同类型科研活动特点的综合评价方法体系。对于基础研究等具有相对客观评价指标的评价,应以文献计量学的定量评价指标为主;对研究成果的质量、创新性、先进性和对经济社会发展影响等的评价,应以同行评议为主;同时,基于定量和定性评价,建立综合的评价指标体系。
4.3 提升科研评估的标准化和国际化水平
分析研判国外评估方案中适应于中国国情、有助于客观评价中国科技能力和科研水平的具体指标,借鉴经验和采纳相关指标,推动评估工作与国际接轨。邀请国外专家参与对科研机构和科技计划的评估,对中国科技发展的整体情况,特别是在重点领域的“领跑”“并跑”“跟跑”状况进行全面客观评价。结合对国外人才的引进和使用,设立具有海外背景的各领域专家咨询委员会,设立常态化的评估机制,加强对科技计划实施和科研成果质量的评估。
4.4 完善国家科技专家库系统并优化使用流程
进一步完善和规范专家入库标准,扩大国家科技专家库规模,邀请一定数量的国外专家加入系统。及时更新系统中的专家信息,在系统中增加对专家参加评审表现情况的评价信息,供选取专家时参考。优化评审专家选取和使用流程,将系统自动筛选与人工判断相结合,优选出与被评审项目相匹配的专家。向其他部门和机构科研评审活动开放共享国家科技专家库系统,避免各级各类科技专家库的重复建设。