新型研究型大学科研评价服务探索
——以南方科技大学图书馆为例*
2022-09-23黄飞燕
黄飞燕
0 引言
2015年国务院发布“双一流”建设方案[1],2017年教育部公布第四轮学科评估结果[2],2018年科技部等部委发布“破五唯”文件,2020年初科技部和教育部发布科研评价政策[3-4],2021年5月国务院办公厅发布《关于完善科技成果评价机制的指导意见》[5],均对高校合理使用科技论文,树立正确评价导向提出要求。比如,破除论文“SCI至上”,摒弃“以刊评文”,探索建立健全分类评价体系,完善学术同行评价,引导评价工作突出科学精神、创新质量、服务贡献,旨在营造良好创新环境,加快提升教育治理体系和治理能力现代化水平。这些评价政策与国际科研评价倡议有相似的导向,如《旧金山科研评价宣言》(San Francisco Declaration on Research Assessment)[6]、《莱顿宣言》 (The Leiden Manifesto for Research Metrics)[7]、欧盟关于“负责任的研究与创新政策”(Responsible Research and Innovation)[8]。针对系列科研评价政策,学界围绕“怎么评”“怎么用”等进行了探讨。
科技评价制度改革旨在推动科研高质量发展。近年南方科技大学(以下简称“南科大”)、上海科技大学、西湖大学等新型研究型大学陆续建成。由于新型研究型大学的概念提出时间不长,高等教育界的研究仍处在探索中,当前研究集中在办学模式、发展路径、人才培养、特征与内涵等方面。比如,新型研究型大学是在创新驱动背景下确立的本土研究型大学新模式,旨在面向世界科技前沿、经济主战场和国家重大需求,在科技创新中发挥更大作用[9-10];已建成的新型研究型大学具有高起点、小而精、国际化等特征,学科布局坚持发展有限学科理念,紧紧围绕自然科学、生命科学、前沿技术的方向[11-12]。由此可见,新型研究型大学的科研布局和发展目标与科研评价制度改革的根本目的是一致的。
目前全球4个主要大学和ESI学科的排名榜在衡量高校科研水平时均采用定量评价方法,以论文为主要评价对象,评价指标以绝对值指标为主,如ARWU的SCI/SSCI论文数、U.S.News的Web of Science文献的总被引次数、近十年ESI论文总被引次数。此类评价指标无法科学衡量科研成果在世界学科领域的影响力和竞争力,也对小型科研机构不利,不适用于评价新型研究型大学的科研水平。如何构建科学的评价机制与评价方法,促进大学人才培养、学科建设和科研发展,是新型研究型大学面临的挑战。
作为最早成立的新型研究型大学,南科大肩负着探索具有中国特色的现代大学制度和创新人才培养模式的高等教育改革使命,建校十年,取得可喜的成绩。这与创新人才评价、完善科研绩效评价机制、优化科研管理机制密不可分。南科大坚持实施分类评价体系,采取学术同行评价模式,基础研究重点评价原创性和科学价值,应用研究重点评价对解决生产实践关键性技术问题的实际贡献;坚持鼓励标志性成果,提倡代表作制度,不唯SCI,不设论文数量指标。本文介绍南科大图书馆科研评价服务发展概况,从基于嵌入业务流程的视角构建科研评价服务框架,采用案例研究法探讨如何高效支撑学校一流人才引进与考评、科研成果管理与评价工作,旨在为高水平研究型大学图书馆开展科研评价服务提供借鉴。
1 国内外图书馆科研评价服务研究
国内知名高校馆开展了科研评价服务,名为情报服务[13]、情报计量分析[14]、信息计量[15]、学科竞争力分析[16],等等。此类科研评价服务主要聚焦期刊/论文评价、机构/学科评估、学科发展趋势分析等[17-18]。对于科研评价服务起步较早的高校馆,相关研究主要涉及其服务需求、服务内容、工作模式、团队管理等[19-22]。在学科评估层面,以ESI学科分析服务案例及其方法的研究最多,包括学科进入ESI 1%或1‰的趋势预测方法[23-25]、科研水平评估和研究前沿探测等[26-27]。机构或学科的对标分析也是常见的研究之一,如CHANG J等[28]以上海科技大学图书馆机构对标分析报告为案例,探索小规模高水平研究型大学的多维度对标分析方法。也有学者[29-31]建议,将机构知识库作为科研管理和评估支撑平台。
国外高校图书馆也普遍开展科研评价服务[32-33],原因是政府以科研绩效评价作为高校科研经费分配的决策依据,如英国“科研卓越框架”、澳大利亚科研卓越计划。笔者以英国罗素大学集团24所一流研究型大学为对象,通过网络调查发现图书馆在本校参与的“科研卓越框架”中主要发挥支撑性角色,最显著的作用是协助科研管理部门提供科研成果数据,其中11个图书馆网站设有科研成果评价或计量分析服务栏目[34-35]。Drummond等[36-37]通过对新南威尔士图书馆服务发展历程的反思,从系统化、整体性角度提出“研究影响力生命周期”的科研评价服务。Astrom等[38]发现瑞典高校馆普遍开展文献计量服务,有助于提升图书馆在学校的显示度和地位。美国和加拿大高校馆也开展科研评价服务[39-40]:Abernethy等[41]介绍美国EPA-RTP联邦研究图书馆的两种产品式科研评价报告(研究影响力报告、文章影响力报告),这类报告主要用于支持科研人员展示其个人学术成果和研究价值。Gutzman等[42]发现美加生物医学研究图书馆的科研评价服务多样化,包括引文分析报告、培训、研究指南、咨询等模式。
综上所述,国内科研评价实践集中在服务内容、分析方法、平台与工具、工作模式与团队建设等方面,较少从嵌入业务流程角度系统地探讨科研评价服务框架。作为新型研究型大学图书馆,南科大图书馆面临业务拓展、服务宣传、团队建设等多重挑战。2018年该馆推出科研评价服务,通过实践探索出一个基于嵌入业务流程的科研评价服务框架。
2 南科大图书馆科研评价服务框架
2.1 服务背景
2018年1月《南方科技大学图书馆三年战略规划——迈向2020年》[43]发布,提出六大战略目标,每个战略目标包含3-4个策略,每个策略由责任部门制定行动计划并付诸实施。其中,有两个策略与科研评价服务相关:探索数据管理与服务的路径、建设学校机构知识库,分别由学习与科研服务部和数字化图书馆建设部负责。
2011年建校以来,随着人才引进工作的稳步推进和学科建设的发展,南科大教学科研人才初具规模,学术论文成果呈现出上升趋势。2017年学校发表SCI/SSCI 论文近1,000 篇,教研人数突破200余人。通过院系走访、与相关部门交流,图书馆了解到面对种类繁多的科研成果统计填报任务,科研人员和科研管理人员普遍存在压力和困难,而且随着成果数量的增长以及学科发展需要,学科/院系层面的对标分析需求也在不断显现。学校规划部等部门通过购买服务的方式,聘请第三方咨询机构制作科研成果分析报告。这类报告收费昂贵,完成周期长,不能作为长期的服务提供方。在图书馆服务升级、学校发展战略需求的合力驱动下,图书馆将科研评价服务作为拓展科研支持服务的首要任务。
2.2 服务框架
明确拓展科研评价服务后,南科大图书馆加强与相关部门沟通,将服务嵌入人才评价、科研管理和科研评价三大业务流程。图1展示了南科大图书馆如何在机制保障的基础上,针对不同业务流程的学校目标、需求主体提供相应服务;同时,通过数据再利用和反馈修正机制提高数据完整性和准确度,提升用户黏度并形成良好的互动机制,确保服务的可持续性、生命力和影响力。
图1 南科大图书馆科研评价服务框架
3 服务模式
3.1 嵌入人才评价流程的服务模式
南科大旨在建设一支国际化高水平师资队伍,人才引进是一项长期性工作。根据南科大发展目标,计划到2025年组建一支1,000人左右的教学科研系列(以下简称“教研系列”)教师队伍,平均每年新增该系列教师80-100人。教研系列实施课题组负责人(PI)制度,推行“准聘-长聘(Tenure Track)”聘用制度。在人才评价机制上,对进校前的人才引进、进校后的职位晋升,实行校院两级学术委员会及系聘任(晋升)委员会制度;同时,坚持同行评议,不设数量指标,提倡代表作制度,重点评价学者成果的重要性、前沿性及国内外学术影响力。
2018年3月,南科大图书馆为人才评价定制“学者学术产出评估报告”,作为人才引进和职称晋升的必备材料。根据学校人才队伍建设的目标,图书馆提出常规论文收录引用证明采用的文献计量指标多数是绝对值,如论文数量、被引次数、期刊影响因子,无法消除不同学科、不同科研生涯阶段的固有差异,不符合学校引进高层次人才的目标。经与校学术委员会商议,增加多个相对值指标,包括CNCI(学科规范化引文影响力)、高被引论文数量、Top10%论文百分比等。此外,“学者学术产出评估报告”可根据不同学科门类的引文特点提供定制化服务,如根据计算机系需求并经学校学术委员会批准,增加谷歌学术的引文数据。该报告只作为人才评价的参考依据,学术委员会并不对任何指标设定数量要求。
人才评价是贯穿学者整个学术生涯的一项周期性事务。学术履历与研究成果影响力报告是科研人员在基金申请、职称晋升时必须提交的材料。南科大图书馆主动为所有新引进的教研系列教授开展Scopus学者人名清洗服务,并将其在进入南科大前的学术成果导入南科大机构知识库,而学者进校后发表的学术成果则由机构知识库基于机器算法实现自动匹配,从而确保学者主页成果的完整性和准确度。与此同时,学科馆员积极向科研人员推广ORCID和ResearcherID等通用作者标识符,积极开展专题培训、制作“常用学者ID”和LibGuides,协助科研人员维护个人学术履历。通过一系列主动服务措施,有效增强学者定期维护ORCID等平台学术履历和使用机构知识库学者主页的积极性,提升用户黏度。学术履历的及时更新,不仅有助于学者便捷获取个人引文影响力数据,也有助于机构知识库基于通用作者标识符抓取学者最新学术成果数据,形成良性互动。
3.2 嵌入科研管理流程的服务模式
南科大坚持以改革创新为动力,注重顶层制度设计,旨在构建科学合理、富有效率的管理体制,提升现代化管理水平,探索具有南科大特色的现代大学治理体系,起到先行示范作用。学术成果是高校重要的知识资产,如何实现有效管理、长期保存、提高开放共享水平、扩大学术影响力是高校普遍关注的问题。虽然我国高校建立的机构知识库较多,但由于缺乏制度保障,普遍存在学者参与度低、数据完整性差等问题。张晓林[44]指出,作为机构的知识基础设施,发挥科研成果管理与评价服务功能是机构知识库发展的方向之一。杨鹤林[30]提出通过争取科研管理层的认同,将机构知识库列入科研评估发展的核心计划,形成“科研评估—文献计量—机构库”路径依赖,从而推进学校产生足够的建设驱动力。
2017年由南科大图书馆馆长牵头的服务和技术团队,向校科研部副部长牵头的成果办公室及院系中主管科研的领导和科研管理岗代表开展需求调研,明确两大需求并提出解决方案。(1)科研成果信息管理常规工作。虽然科研部的科研管理系统具有学术成果管理功能,但因数据更新不及时和用户界面功能不友好等原因,一直得不到科研人员的认可。针对这个问题,南科大图书馆提出建设机构知识库以实现相关管理功能。(2)紧急任务。对于来自校领导、省市各上级部门下发的各类成果统计报表等,提出由图书馆通过机构知识库和科研评价来提供服务。
针对科研成果信息管理的需求,南科大图书馆联合科研部、网络信息中心共同建设南科大机构知识库,2020 年初启用。在系统建设期间,另一项重要任务是建立行之有效的制度保障和实施方案。制度保障是指制定《南方科技大学学术成果保存与共享管理细则》,明确科研部、图书馆、院系单位和学者就学术成果保存和共享管理工作各自承担的职责和分工,分别是统筹机构和决策部署、责任部门和日常事务、科研主体和直接责任,并明确规定“为了避免学术成果数据重复采集,学术成果管理系统将作为学校成果数据的权威来源”。为了确保该制度得到有效落实,科研部和图书馆会同人力资源部制定实施方案,规定年度考核中科研人员提交的论文/专著类成果列表必须从南科大机构知识库导出。正由于规章制度和实施方案的双重保障,所有科研人员每年都会使用南科大机构知识库对本人成果进行认领和查漏补缺,从而有效提高机构知识库的数据完整性和准确度。
针对论文成果的统计,图书馆根据主体的需求设计两套服务方案。(1)学校和院系的常规统计:通过调研学校/院系的数据统计特点,开发机构知识库的数据分析模块,设计多维度统计指标,使绝大多数的校内统计项目可在机构知识库中自动生成。(2)省市各上级部门下发的成果统计报表:往往有特定的要求,需要进行数据清洗才能实现,图书馆科研评价团队为此提供定制化服务。以每年为“广东省普通高等学校科技统计工作”提交的《科技成果情况表》(空表)为例(见表1),在图书馆提供科研评价服务前,科研部只可采用层层转发、手工填表后再汇总的方式。不仅工作效率低、数据准确度得不到保障,而且科研人员需耗费大量时间填写表格。自2018年以来,该表由图书馆负责完成。图2清晰展示业务流程的前后变化,由原来的400余人参与填表转变为1人填表,并且数据的准确度也得到大幅提升。这是高校践行“让科研人员不为填表报销所困扰”的服务理念和提升现代化管理水平的体现之一。
图2 《科技成果情况表》填报业务流程对比图
表1 科技成果情况表(空表)
3.3 嵌入科研评价流程的服务模式
作为国家高等教育综合改革试验校,南科大以创新立校,以改革兴校,探索适合国情的一流大学发展模式。在科学研究中,坚持需求导向、问题导向,加强基础研究和应用基础研究,提升科研原创能力,实现更多“从0 到1”的突破。在科研评价方面,强调对基础研究、应用基础研究、技术开发和成果转化等科研产出实行分类评价;对基础研究、应用基础研究的业绩评价更加注重科研创新的国内外同行影响力。2018年起,南科大图书馆每年为学校撰写“学术论文影响力分析报告”,作为春季战略研讨会和科研工作会议的重要材料。鉴于科研成果评估指标的多元化和学术论文评价重质轻量的导向,2019年和2020年报告在框架制定、计量指标选用、对标机构选择等方面做出一系列调整(见表 2)。
表2 近3年论文分析报告框架和内容的对比
对于文献计量指标“怎么选”“怎么用”,南科大做到3个坚持:(1)不唯ESI,即不以学科进入ESI 1%或1‰作为分析目的,取消ESI学科院系/学者贡献度分析;(2)重质轻量和指标多元化,不再使用总被引次数、单年累计被引次数等绝对值计量指标,构建由CNCI、Top1%论文百分比、国际合作论文百分比、横向合作论文百分比等组成的多元指标体系,强调论文引文影响力、国际合作、产学研合作的重要性;(3)分类评价,学科对标机构的选择更符合本学科特点,如化学学科的对标机构由“5所年轻大学”调整为“第四轮学科评估中该学科评为A+和A等级的高校”。基于上述3个坚持,2018年与2020年化学学科对标分析发生重大变化(见表3-4,图3),后者清晰展现化学学科科研水平所处的位置、优势和不足。
图3 2020年报告:化学学科对标分析图
表3 2018年报告:化学学科对标分析表
4 问题与思考
科研评价服务是高校馆支撑学校“双一流”建设的重点服务之一,部分馆已具有较强的业务能力,建立了较高水平的专业馆员团队,形成较成熟的服务模式,得到学校的高度认可。与此同时,高校馆面临一些困难和挑战:如何打破传统以论文为主的科研成果评价模式,满足分类评价所需的多类型科研成果数据支撑;如何合理使用科学计量指标、引入替代计量指标,全方位展现科研影响力;随着高校人事制度改革以及图书馆普遍面临的馆员规模缩减的现实,如何持续高效、高质量地提供科研评价服务,等等。
4.1 在高校数据治理框架下统筹开展科研成果数据管理
科研成果是高校的核心知识资产,科研成果数据更是高校核心的数据资产,科研成果数据管理是开展科研评价服务的基石。长期以来学校各业务系统相互独立,由于科研成果管理制度、业务流程、成果呈缴的监督规范等缺位,即便有机构知识库等系统的支撑,也难以保障科研成果数据的完整性、准确性与及时性。这对基于多元数据的新型科研评价服务形成了重要的基础障碍。因此,图书馆应在高校数据治理框架下联合相关部门开展科研成果数据管理,打破科研成果数据孤岛现象,实现数据流通、融合,呈现科研成果的全貌。
表4 2020年报告:化学学科对标分析表
首先,图书馆应与科研部等密切合作,统筹开展科研成果数据管理。例如,全面梳理不同学科的科研成果(论文、图书、专利、研究报告、政策文件、展览等),针对不同类型科研成果数据的业务属性明确归属部门,制定业务流程和管理办法,包括数据的收集、清洗、存储、共享和分析等。值得注意的是,为避免数据重复建设,应遵循“一数一源”的原则,从制度上规定各类成果的主管部门为其数据的唯一来源。为解决数据完整性和准确性不足的问题,从业务流程上规定各类成果申报、年度考核等所需的数据须出自指定系统。
其次,与学校信息化部门合作,从平台/工具、数据标准、数据安全等维度推动评估工作的开展,确保科研成果数据管理平台符合学校数据治理规范,各类数据在学校相关系统中流通和融合。不同类型的科研成果数据可根据学校、院系、科研人员的需求在不同平台实现共享,如机构知识库作为论文、图书类型的科研成果数据管理平台,可从专利管理平台收割专利数据、从科研项目平台收割项目数据,从而全面展现学者的成果。
最后,科研成果数据管理的目的是服务学校的各项业务。在高校数据治理框架下,可以将科研成果数据价值最大化:除了支撑科研评价服务,对学校日常科研管理也起到很好的支撑作用。例如,根据不同业务场景,将不同细粒度的科研成果数据推送到相应的管理平台,包括学校管理驾驶舱、教育数据统计、大学排名系统等。又如,根据不同用户类型,设置分层的数据管理和查看授权,包括授予院系领导/科研管理岗对本院系各类成果数据的管理和查看权限、授权规划部/大学排名团队查看全校成果数据。
4.2 合理使用科学计量学指标,开展科研评价服务
图书馆的科研评价服务能得到各利益相关方的认可,其中两个重要因素是图书馆扮演中立的第三方支撑服务角色,以及各方对图书馆员在科学计量学专业知识的信任。为了避免计量指标的不恰当使用,南科大图书馆加强有关科研评价政策、合理使用计量指标的宣传和指导,同时坚持定量与定性分析相结合的方法,探究多样化的分类分层的评价机制。
在分类评价方面,南科大图书馆根据不同学科学术出版、学术交流和学术评价的特点,在评价方法、数据来源、计量指标等方面区分对待。在自然科学领域,以SCI、EI、Scopus等来源的基于引文的计量指标,可以较好地发挥评价功能,但不可唯SCI,强调“三类高质量论文”。在人文社会科学领域,学术专著和期刊论文都是主要的学术产出形式,而人文社科往往具有较强的本土特色,成果主要发表在国内期刊上,因此须突破以期刊论文为主导、重国际期刊轻国内期刊的评价模式。此外,应根据不同学科特点适当引入替代计量学指标以展现其社会影响力,如教育学、经济学等领域的研究报告被政府文件、新闻报道引用是其影响力的体现之一。在应用学科领域,应注重评价科技创新、横向合作、高价值专利。
在分层评价方面,根据不同层面、不同阶段的评价主体合理使用定量评价和同行评议。针对学者/课题组等微观层面的评价主体,应全面采用同行评议的方法,定量指标只作为评估专家的参考信息;针对学科/院系/大学等中观层面的评价主体,应充分发挥好科学计量指标的作用,将定量指标作为诊断优劣势的判断指征,如存在显著差异时,需要引入学科专家探析深层次原因。在人才引进阶段,可以按时间轴绘制其整个学术生涯的科研成果表现,从而更清晰地展现其学术产出和影响力发展趋势,并从研究主题新颖性分析其学术潜力。在中期考核阶段,因将其进校前和进校后的研究成果作为两个数据集进行分析,不仅发挥人才评价的作用,也可作为学校育才工作的参考。在聘期考核阶段,应重点关注聘期内发表的代表性成果。
4.3 强化面向研究影响力生命周期的科研评价服务体系
目前国内高校馆的科研评价服务主要以面向校领导、院系的机构/学科层面的科研影响力对标分析、学科发展态势分析为主,服务类型多为分析报告,评价目的多以总结性评价为主;较少开展面向科研人员,以提高科研成果管理能力、提升和展现科研影响力的培训或咨询服务。科研成果数据管理与科研评价服务密切相关,彼此相互促进。
图书馆应基于科研人员在研究影响力生命周期各个阶段的需求,重点针对其在科研成果管理和提升科研影响力上的难点和痛点,系统性开展支持服务。因此,除针对基金课题、人才项目申报提供论文查收查引服务外,还应加强以下服务。(1)学术出版阶段:提供期刊投稿指南、开放获取出版咨询、ORCID注册指引等,如指出选择开放获取出版将有助于提升论文影响力,在投稿系统登记ORCID 将有助于成果的自动归属。(2)科研成果管理阶段:为新进科研人员提供人名清洗服务,并将其整个学术生涯数据导入到机构知识库个人成果列表;基于人名和地址识别机制,机构知识库将学者进校后发表的成果数据进行自动匹配、添加到成果列表中,帮助学者轻松管理与维护成果数据。(3)学术履历维护阶段:开展ORCID、ResearcherID等常用学者ID的培训咨询服务,指引学者通过关联不同学者ID轻松维护多个平台上的履历,指引学者在学校个人主页、ResearchGate网站添加本人的学者ID,从而提升学术成果的显示度以及增加潜在的科研合作机会。(4)研究影响力评价与展示阶段:开展有关常用科学计量指标定义及其优缺点、高被引学者榜单方法论、替代计量学指标等的培训和咨询,帮助科研人员更科学地选择评价指标,展示其科研影响力。
通过数据清洗、学者ID培训与指引等一系列服务,将有效减轻科研人员维护本人科研成果数据的负担,实现一套科研成果数据在多个平台的共享,从而提升科研人员的参与度和满意度。与此同时,因科研人员积极主动参与个人成果数据的维护,将有效提高数据的完整性、准确性与更新的及时性,有助于将馆员从往常繁重的数据处理任务中解放出来,学习最新的知识和技能,确保馆员在知识快速更迭的时代里持续高效、高质量地提供科研评价服务。
5 结语
“双一流”建设背景下,科研评价服务是高水平研究型大学图书馆的核心服务之一。但是,如果延续以定制化分析报告为主的服务模式,图书馆不仅面临人力负担过重的压力,也存在被相关职能部门(如规划部或第三方咨询机构)取代的潜在风险。因此,图书馆应聚焦学校发展目标,在高校数据治理框架下统筹开展科研成果数据工作,依托制度建设的底层设计保障数据的互通互享和充分利用,满足分类评价所需的多类型科研成果数据支撑;在合理使用科学计量学指标的指导思想下,探究多样化的分类分层评价机制,针对不同学科、不同评价主体提供相适用的评价框架和指标;在强化面向研究影响力生命周期的服务理念下,贯彻嵌入核心业务流程的思路,依托贯穿科研人员和学校各层科研成果管理与评价流程的多样化服务,提升科研人员的参与感和获得感,提高学校科研数据管理效能和科学决策水平,确保科研评价服务的高水平、高效率。