摘要
为推进一流学科建设,探索构建多维度学科评估体系,对学科发展提供建议。利用基本科学指标数据库(ESI)、InCites和Derwent Innovation Index数据库,借助极差变换法和熵权法对药理学与毒理学领域部分高校的指标数据情况进行分析,研究指标体系的构建途径和指标表现。研究表明,样本高校在指标体系中的得分与ESI排名表现不同,指标体系具有一定的实际应用价值。ESI学科排名不能完整地反映学科发展情况,多维度指标评价体系能在一定程度上克服这一缺陷。本文建立了以论文和专利为主要评价对象的评价体系,尽可能涵盖科研产出的多角度指标,弥补单一或少数指标体系的信息缺失。建议高校可从致力发表高质量原创研究成果、主导或广泛参与科研合作、加强校企合作注重成果转化、推进开放科学鼓励开放获取等角度制定学科发展计划。
自2017年正式颁布《统筹推进世界一流大学和一流学科建设实施方法(暂行)》以
此前,习总书记在出席全国教育大会上发表了重要讲话,他指出“我们要以内涵发展统领大学体系的构建,坚决破除唯规模、唯数量、唯论文、唯投入的顽瘴痼疾,从根本上解决大学评价指挥棒问题
因此,本研究提出了以下问题作为研究的重点:ESI学科排名能否完整地反映学科发展的实际情况?如果不能,那么采用多角度的学科评估体系能否达到这一目的?本文将从科研产出数量、质量、合作程度、社会经济价值等方面构建综合评价体系,多方面展现高校学科发展成果。对于这一指标体系,采用何种权值分配的方式能够更加准确地反映各指标的实际意义?由于各项指标间存在量纲上的差异,首先将采用极差变换法将数据标准化,再采用熵权法这一客观赋权法对各项指标赋权。基于这些问题,本研究将重点关注多维学科评估体系的指标和权值,以期从具体的指标上为学科发展提供理论基础和建议。
本课题组在前期已研究分析了我国部分“双一流”建设高校以及领域内具有一定影响力高校的ESI学科发展情
考虑到教育部的学科评估指标体系是针对我国高校学科发展实际和我国基本国情提出的,具有很强的针对性。因此本研究结合第五轮学科评估指标体
“科研产出”这一二级指标主要关注的是院校的发文情况以及Q1期刊论文百分比和高水平论文百分比体现出的高质量成果占比情况,这一系列指标主要是从数量上对高校的学科发展情况做出描述;“学科影响力”这一二级指标主要反映高校的论文在学科内的关注度和影响程度,这一系列指标主要是从质量上对高校学科发展情况做出描述;“专利情况”这一二级指标主要反映的是院校的专利数和被引专利数,进而体现在社会经济领域的贡献程度和成果转化的能力。
“合作情况”反映的是高校参与合作的“广度”,并不能体现高校在合作中的地位;而“主导合作情况”反映的是高校参与合作的“深度”,能够反映高校在学科中的整体水平,因为一般认为:第一作者是论文的主要完成人,通讯作者是论文思路、研究方向的指导人,他们在科研合作中发挥了最为主要的作用。两类有关合作情况的指标共同反映出高校在参与学术合作中的深度和广度,进而在一定程度上反映高校在该学科内的影响力。此外,本评价指标将开放获取(OA)情况列入并将其归入社会经济因素,其主要原因是近年来OA不断发展,旨在促进知识的无壁垒传播,OA论文的多少是反映高校承担社会责任的一个重要方面。因此选择了OA体系中两种主要类型的文档(金色文档和绿色文档)。金色文档是指出版后立刻就能开放获取的文档,绿色文档是指出版一段时间后能够开放获取的文档。由于InCites数据库不能直接提供金色文档和绿色文档百分比,因此检索了“DOAJ金色文档百分比”、“其他金色文档百分比”、“绿色已录用文档百分比”和“绿色已出版文档百分比”这四项指标,分别加和得到。
ESI数据库:于2021年5月ESI数据库更新后,以“药理学与毒理学”为学科分类,获取发文量和被引量;InCites数据库:于2021年6月29日,以ESI学科分类“药理学与毒理学”为标准,时间跨度为2010-2021年,检索样本高校的其他数据;Derwent Innovation Inde
目前,常用的较为简便的多指标赋权方法包括AHP层次分析法、熵权法等。由于AHP层次分析法需要人为主观对各项指标赋予权重,使得主观因素对权重的影响较大,当决策者过多地受到主观偏好的影响时,会导致结果不够客观。熵权法是一种客观赋权的方法,各指标的熵值完全由指标数据决定,熵值越大,数据的离散程度越大。因此,熵权法可以有效地判断数据矩阵中各项数据的差异。对于本研究来说,采用熵权法可以较为明显地比较出各高校在不同指标上的差距,从而提出针对性的改进意见。因此,本研究采用熵权法作为指标赋权的方法。同时,由于各指标间量纲的不同,首先采用极差变换法作为数据标准化方法,再将标准化后的数据通过熵权法得到各指标权
在获取了原始数据后,依照极差变换法和熵权法对各指标完成了赋权工作,见
在建立了该指标评价体系后,将所有原始数据以标准化后的比值形式带入权值,得到了10所院校在各二级指标、一级指标和总得分上的排名情况,见

图1 二级指标排名情况

图2 一级指标及总得分排名情况
中国药科大学在“学科影响力”、“主导合作情况”和“专利情况”处于相对优势地位(分别为第1,第2和第2位),而在“科研产出”、“合作情况”和“开放获取情况”体现出了完全相反的情况,落后较为明显(分别为第5,第7和第10位),表明中国药科大学学科的发展存在着一定的不平衡。“科研产出”这一指标中,中国药科大学的ESI发文量位于10所高校的首位,但高水平论文占比为10所高校的末尾,这一现象可能与发文量领先有关,但也在一定程度上反映了高水平研究成果相对较少的现象。“合作情况”这一指标中,中国药科大学在两项指标中分别位于第7和第9位,导致了在此项指标中的整体落后。
而从学校类型来看,综合性大学的排名情况普遍优于相对专业性的高校,这可能与近年来跨学科融合成为学科发展主要动力的原因有关。综合性大学由于其学科院系设置的多样性,以及资源投入的优势可能会带来在多维度学科评价指标中的先天优势。
本研究发现,在ESI学科排名中较高的院校可能由于在其他指标上的落后导致综合排名下降,因此,ESI学科排名不能完整准确反映学科发展的实际情况;也有研究分析了ESI学科排名的缺
根据前文的结论,ESI学科排名不能完整反映学科发展的情况,所以引入多角度的学科评估体系是有必要的,并且国内国际均采用多角度的学科评估标准。本研究中采用的极差变化法和熵权法是具有实际价值与意义的,两个方法都是较为经典和成熟的数据标准化和分析方法。极差变化法从数学上解决了不同量纲指标的加和问题;熵权法的核心是信息的混乱程度,该赋权过程完全依靠的是数据矩阵中的各项数
制定发展计划不能只针对某一指标,而应在综合考虑所有指标的基础上结合自身已有的优势制定有针对性的发展计划。例如,不应过分追求与其他机构的合作而忽视了在合作中的主导地位,不宜将所有精力花费在横向课题上而忽视了基础性的研究等等。此外,指标体系中的所有指标都存在着一定程度上的因果关系。现有的研究证明了高水平成果与被引量间的关系、科研合作与高水平成果间的关系、开放获取与被引量之间的关系等等。这就要求相关职能部门在制定计划时应当综合考虑各项指标,权衡利弊,有所取舍,做到事半功倍,协调发展。
发文量固然是一个重要的影响因素,但通过大量“灌水”或价值相对较低的文章带来被引量的增加是一种“畸形”的发展模式,无异于饮鸩止渴。高校的学科发展离不开具体的科研人员,国家或高校的政策“指挥棒”在其中发挥了不可或缺的作用。所以,在今后的发展中可以将重点关注在高质量研究成果上,通过改革个人评价制度,探索“揭榜挂帅”等制度,整合学科内的资源,由院校牵头组织学科内专家商讨确定有价值的研究方向,进而组织有条件的一个或多个课题组对这些问题进行重点攻关研究,进而产出更多有重大创新的高质量研究成果,实现0到1的突破。当然,这可能会导致短期内发文量增速变缓,但在长期来说,会使得“科研产出”另外两项指标以及包括“学科影响力”下3项指标在内的5项指标获得提升。
从各高校在两个二级指标的排名上看,这些院校大多呈现“T”字型或倒“T”字型的发展情况。即合作广度大,但深度不够(“合作情况”排名靠前,但“主导合作情况”排名靠后);或是合作深度较深,但广度不够(“主导合作情况”排名靠前,但“合作情况”排名靠后)。已有研究表明,广泛的合作会带来科研产出的增加和论文被引量的增
专利作为一项将科研成果转化为实际经济效益的途径,是学术研究和实际应用的重要桥梁。从宏观上看,专利大国必然是科技大国。具体到高校,高校的专利数,反映的是高校将学术研究成果转化为产业动力的水平,而被引专利数反映的是具有相对较高社会经济价值的专利数,即科研成果转化的“效能”。由于专利在一定程度上离不开与企业的密切合作,有条件的高校可以探索建立产业研究院,与行业内具有一定科研实力的企业展开更为密切的合作。此外,也可探索建立定期的企业调研机制,通过组织校内具有一定科研能力的课题组深入企业调研,发掘企业科技“攻关难题”,确定合作的方向与内容,从而开发具有较高社会经济价值的专利。同时,在现有的高校个人评价体系中,专注于“横向合作”的教授/研究员可能不具备优势,高校也可探索针对主要从事横向合作的教授/研究员的评价体系,从制度上带动个人积极性。当然,与企业的合作必然会带来较大的经济利益,这可能会导致大量的研究人员转向与企业的合作而“荒废”本身的科研工作。因此,在制定促进科研成果转化的政策时,也需兼顾多方利益,防止出现“头重脚轻”的畸形发展。
2021年7月5日,欧洲大学协会(EUA)发布的《从原则到实践:2020-2021年欧洲大学开放科学调查报告》建议“将开放科学充分纳入奖励和激励措施”。本研究发现,开放获取这一二级指标下的各三级指标,10所院校的数值都相对较低。开放获取论文的占比大多分布在20%~30%。有研究表明开放获取链接将会在社交媒体上获得更高的关注度和点击
在后续的研究中,将逐步探索优化指标体系、增加样本高校数量和完善赋权方法。对于指标体系,在现有的主流评价指标中,高校的教学质量也是一个重要的评价指标,这在本研究中没有涉及,但其实在InCites数据库中是有相关数据的,可以先研究该数据库中相关数据的来源及统计学相关性,以探究是否具有统计学价值,再考虑是否将其加入指标体系中。此外,课题组的前期研究中比较了科技期刊对学科发展的贡献程
本研究表明,ESI学科排名在准确完整地反映学科发展方面有一定的局限性,而多维度的学科评价体系能有效克服这一缺陷。中国药科大学在保持原有的学科影响力、专利情况以及主导合作情况的优势的基础上,可以采取积极参与合作、注重高质量研究成果以及鼓励开放获取等方式进一步促进学科高质量发展。
References
MOE of China. The Ministry of education,the Ministry of Finance and the national development and Reform Commission notices about printing and distributing the implementation measures for comprehensively promoting the construction of first-class universities and disciplines of the world (Provisional)[EB/OL].[2021-06-29]. https://www.csdp.edu.cn/article/2082.html. [百度学术]
Matveeva N,Sterligov I,Yudkevich M. The effect of Russian University Excellence Initiative on publications and collaboration patterns[J]. J Informetr,2021,15(1):101110. [百度学术]
Xinhua News Agency. Xi Jinping attended the National Education Conference and delivered an important speech[EB/OL].[2021-06-29].http://www.banyuetan.org/jrt/detail/20180911/1000200033134991536632028299959736_1.html. [百度学术]
Xu R,Wei YC,Li WJ. Study on insights gained from the international disciplinary ranking index system on the development of Chinese pharmaceutical disciplines—based on the comparative analysis of ARWU,US News,QS and THE discipline rankings[J]. J China Pharm Univ(中国药科大学学报),2020,51(2):240-248. [百度学术]
Cheng Y. The methodology and features of Shanghai ranking's best Chinese universities ranking[J]. Shanghai J Educ Eval(上海教育评估研究),2017,6(3):35-39. [百度学术]
Ni XR,Guo XX. Research on discipline evaluation index system under the construction of "Double first-class"[J].Chin Univ Sci Technol(中国高校科技),2021(Z1):15-19. [百度学术]
Zhou GL,Cai SF,Xu XC,et al. Construction and evaluation of world-class universities:international experience and Chinese exploration[J]. China High Educ Res(中国高教研究),2019(9):22-28,34. [百度学术]
Wang YQ,Ding ZQ. Analysis and Enlightenment of ESI related indicators of medical disciplines in Colleges and universities in China under the background of "Double first-class"[J]. Acta Univ Med Nanjing (Soc Sci)[南京医科大学学报(社会科学版)],2019,19(04):335-340. [百度学术]
MOE of China. Work plan for the fifth round of discipline evaluation[EB/OL].(2020-11-03)[2021-10-25].http://www.moe.gov.cn/jyb_xwfb/moe_1946/fj_2020/202011/t20201102_497819. html. [百度学术]
Herrera-Vallejera D,Gorbea-Portal S. Pharmacology and Pharmacy:research and innovation analysis[J]. Scientometrics,2021,126(3):2513-2522. [百度学术]
Chi GT. The science and technology evaluation model based on entropy weight and empirical research during the 10th five-year of China[J]. Chin J Manage(管理学报),2010,7(1):34-42. [百度学术]
Luo H,Zhou J. ESI discipline classification and evaluation defects and their risks[J]. Jiangsu Higher Edu(江苏高教),2018(11):55-59,63. [百度学术]
Fan LP,Wang YF,Ding SC,et al. Productivity trends and citation impact of different institutional collaboration patterns at the research units’ level[J]. Scientometrics,2020,125(2):1179-1196. [百度学术]
Abramo G,D’Angelo CA,di Costa F. On the relation between the degree of internationalization of cited and citing publications:a field level analysis,including and excluding self-citations[J]. J Informetr,2021,15(1):101101. [百度学术]
Chang YW. Characteristics of high research performance authors in the field of library and information science and those of their articles[J]. Scientometrics,2021,126(4):3373-3391. [百度学术]
Rubbo P,Pilatti LA,Picinin CT. Citation of retracted articles in engineering:a study of the web of science database[J]. Ethics Behavior,2019,29(8):661-679. [百度学术]
Li HX,Liu LJ,Wang XW. The open access effect in social media exposure of scholarly articles:a matched-pair analysis[J]. J Informetr,2021,15(3):101154. [百度学术]
Ding ZQ,Hao HP. Analysis of the correlation between Altmetrics and traditional measurement indicators and its enlightenment to the dissemination of scientific and technological journals [J]. Sci Technol Pub(科技与出版),2019(11):134-139. [百度学术]
Woolston C. Impact factor abandoned by Dutch university in hiring and promotion decisions[J]. Nature,2021,595(7867):462. [百度学术]
Erfanmanesh M,Teixeira da Silva JA. Is the soundness-only quality control policy of open access mega journals linked to a higher rate of published errors[J]?Scientometrics,2019,120(2):917-923. [百度学术]
Ding ZQ. Science and technology journals multi-dimensional to help scientific and technological innovation and "double-class" construction[J]. Sci Technol Pub(科技与出版),2018(9):11-15. [百度学术]