英国科研评价模式:由专业评价人员进行评价
然环境研究理事会(NERC)率先在内部成立了评价小组,由负有政策制定职责的官员监督小组的评价工作,还指令一名高级官员负责把评价与资助机构的其他活动整合起来。这种线性管理结构有助于确保评价获得理事会高层的认可。
为了实时监控和评价资助项目,内部评价小组制定了绩效指标,建立了相关数据库。例如,AFRC于1972年率先建立了项目管理数据库。目前,该数据库除了收录经费与人员投入、研究计划的构成等数据项之外,还包括定性和定量研究绩效指标,其中定性指标来源于项目立项时对项目和人员的评价,定量指标是出版物和引用情况。评价小组要定期向AFRC的有关管理部门通告这些数据,使它们能充分利用这些信息支持同行专家对AFRC的资助工作及所属研究机构进行评价。同样,NERC的内部评估小组要提供财务和管理信息,开展一系列文献计量研究,参照当初设定的目标分析科学家和研究机构的产出。分析研究结果也用于支持同行专家的评价工作。
科学与工程研究理事会(SERC)的做法与上述两个研究理事会不同:没有自己的研究投入和绩效指标数据库;重视研究计划的评价,而不是项目评价;倾向于雇佣外部专家深入分析定性问题,而不是单纯依靠内部小组支持的同行评议[7](注:SERC肩负与其他部门共同资助英国的战略研究、联合资助产学合作计划、资助英国参与国际科学合作。很明显,评价这些资助工作非常复杂,不能单纯依靠同行评议方法。)。但是,目前SERC正同教育与科学部以及其它研究理事会合作建立一套测度产出的方法和指标,使之适用于整个科学(不包括国防科学)的评价。此外,SERC还肩负培养科学家的重任,因而需要记录博士学位论文和博士后论文这类数据,用于评价人才培养活动的实施情况。
由于内部评估小组不仅积极主动地在理事会内部,而且还向广大共同体交流自己的工作,因此,它们提供的定量指标获得了广泛的认同。通过把特定评价业务、评价支持研究和对理事会工作人员进行定量评价方法的培训工作委托给从事科研评价理论研究的学术组织,评估小组与评价理论研究专家形成了密切的相互作用。这样,政策制定部门可以迅速了解、掌握评价方面的专门知识,在实际应用时按照每个组织的需求状况进一步发展和完善这些知识。各个研究理事会还精选了部分获资助的研究人员、同行评议专家和视察小组(visiting group)成员参与开发定量指标,例如向他们咨询衡量成功的标准和指标,确保任何新颖的方法都可以成为强有力的评价证据。尽管如此,内部评估小组提供的研究投入和绩效指标信息是在研究理事会内部发掘的,它们只可能适应于某类研究,因此,需要把它们整合到利用同行评议方式进行的评价活动中。
总之,在英国基础研究资助机构中,内部专家对评价工作和政策制定工作起支持作用,它们是英国专业科研评价队伍中不可缺少的组成部分。尽管同行评议仍是评估基础研究最令人满意的方式,不可能被内部专家评价方式替代,但可以肯定的是,评价小组能提供极有价值的政策信息,能为同行评议过程提供许多证据。
三、利用外部专业评价人员的方式
1.实时评价大型R & D计划
英国科技管理部门认为,外部评价人员的评价比内部评价人员的评价更深入,更具有可靠性和公正性,因此,大型R & D计划的评价一般都委托给外部评价人员。例如,英国国家信息技术计划[8](注:该计划由3个政府机构共同资助(DTI、国防部和SERC),涉及公司之间在竞争前的合作和公司与大学的合作。)(Alvey计划)的实时评价就是由外部评价人员完成的。
在开始实施Alvey计划时,DTI决定在计划运行过程中要开展实时评价,通过把评价结论立即反馈到计划运行过程中,提前发现问题并作出纠正。Alvey计划的实时评价包括两个部分:由SPRU评价计划的适宜性和影响,由PREST评价计划的结构和组织。这两个机构的科技政策理论研究人员要把评价过程中开发的专业评价知识传授给DTI的评估小组和参与评价工作的DTI经济学家,使他们掌握最新评价专业知识和经验。
2.制定评价手册
利用外部专业评价人员制定评价手册是一种一次性使用外部专家的方式,它不同于DTI和一些研究理事会采取的内部与外部评价专家之间需要长期维持联系的方式。
英国健康和安全执行部门(HSE)就采用这种评价方式。通过委托评价理论研究人员起草详细的评价手册,指导内部评价人员对研究活动进行事后评价[9](注:PREST,Protocol for the Evaluation of HSE Research,Manchester,1988)。评价理论研究人员在起草评价手册时,不仅要充分反映HSE的研究人员、研究计划制定人员以及研究成果用户(包括HSE的其他部门、外部研究人员和工业界)的意见,而且还要提供评价案例,供内部评价人员参考。由于在起草评价手册时调查了受评价活动影响者的意见,HSE的评价工作也获得了很高的可信度。
3.外部专业评价人员和同行小组相结合的评价模式
经济和社会科学研究理事会(ESRC)采用外部专业评价人员和同行小组相结合的评价模式,对它管理的研究计划、研究中心和培训计划做非常详细的定性评价。其中,专业评价人员发挥两方面的作用:采集研究绩效方面的定量数据,指导评价。例如,ESRC在评价地方研究实验室时,专业评价人员要与实验室的管理者共同商定评价的范围,然后向同行评议小组提供详细的评价证据。这些证据不仅仅涉及研究质量,还包含管理问题、相关性和影响。评价座谈会、同行小组可根据这些证据作出判断。从表面上看,这种评价模式和欧共体的小组评价模式之间没有明显差别,但是,这种评价模式中的评价专家在确定评价内容和评价实施方面比欧共体评价模式中的评价人员有更多的控制权。
四、结论
1.充分发挥内部评
内部评价专家的产生和发展来源于政府行政管理工作的需要,他们一般有制定研究计划、管理研究、为同行评议提供支持以及委托和实施评价的职责。由于他们熟知自己部门的使命、了解评价的需求和目标,因此在设计评价方案的过程中,他们的意见起了决定性作用。但是,评价是一项专业性和学术性极强的工作,不仅需要丰富的调查、分析和解决问题的能力,还要通晓管理学和经济学的有关专门知识、熟练掌握评价方法,而内部评价人员不可能花大量时间充分掌握这些知识。可见,如果没有外部评价专家为内部评价专家提供专业培训和咨询服务,政府机构要建立评价职能是非常困难的。
2.以下几个因素可能影响评价的可接受程度
(1)为评价活动提供有力的组织保障。资助机构要有高级公务员负责评价活动,只有这样评价活动才能受到高层的认可,且不受任何要挟和胁迫。
(2)允许不同资助机构对自己的评价活动进行安排。不同资助机构都有自己特殊的评价需求,评价体系要反映这些需求。不能草率地对各个机构的评价工作强加一些硬性要求,否则,评价体系将缺乏可操作性。
(3)把评价作为政府R & D资助与管理全过程的一部分。只有这样,才能重视评价工作并对其做周密部署,使政策制定者从评价中获得最大的利益。
(4)外部专家在学界的声望深刻地影响评价公正性和评价结论的可信度。评估专家可能被指责为得出了在政治上有利的结论,以获取更多政府委托评价任务;小组评价易受专家地位的影响,小组成员总是想要保护自己所属专业领域的声望;而声望卓著的专家易于被信任。
(5)在评价时要广泛咨询广大科学共同体。只有充分调查被评价团体及其同行、科研管理人员乃至研究成果用户的意见,并且适时利用评价专业技能,科研人员才可能接受评价专业人员的结论。
3.评价方法的日益复杂化要求评价人员具备一定水准的专业知识。内部评价人员和外部评价人员相结合组成评价共同体,既有利于内部评价人员迅速掌握最新的评价 《英国科研评价模式:由专业评价人员进行评价(第2页)》
本文链接地址:http://www.oyaya.net/fanwen/view/206365.html
为了实时监控和评价资助项目,内部评价小组制定了绩效指标,建立了相关数据库。例如,AFRC于1972年率先建立了项目管理数据库。目前,该数据库除了收录经费与人员投入、研究计划的构成等数据项之外,还包括定性和定量研究绩效指标,其中定性指标来源于项目立项时对项目和人员的评价,定量指标是出版物和引用情况。评价小组要定期向AFRC的有关管理部门通告这些数据,使它们能充分利用这些信息支持同行专家对AFRC的资助工作及所属研究机构进行评价。同样,NERC的内部评估小组要提供财务和管理信息,开展一系列文献计量研究,参照当初设定的目标分析科学家和研究机构的产出。分析研究结果也用于支持同行专家的评价工作。
科学与工程研究理事会(SERC)的做法与上述两个研究理事会不同:没有自己的研究投入和绩效指标数据库;重视研究计划的评价,而不是项目评价;倾向于雇佣外部专家深入分析定性问题,而不是单纯依靠内部小组支持的同行评议[7](注:SERC肩负与其他部门共同资助英国的战略研究、联合资助产学合作计划、资助英国参与国际科学合作。很明显,评价这些资助工作非常复杂,不能单纯依靠同行评议方法。)。但是,目前SERC正同教育与科学部以及其它研究理事会合作建立一套测度产出的方法和指标,使之适用于整个科学(不包括国防科学)的评价。此外,SERC还肩负培养科学家的重任,因而需要记录博士学位论文和博士后论文这类数据,用于评价人才培养活动的实施情况。
由于内部评估小组不仅积极主动地在理事会内部,而且还向广大共同体交流自己的工作,因此,它们提供的定量指标获得了广泛的认同。通过把特定评价业务、评价支持研究和对理事会工作人员进行定量评价方法的培训工作委托给从事科研评价理论研究的学术组织,评估小组与评价理论研究专家形成了密切的相互作用。这样,政策制定部门可以迅速了解、掌握评价方面的专门知识,在实际应用时按照每个组织的需求状况进一步发展和完善这些知识。各个研究理事会还精选了部分获资助的研究人员、同行评议专家和视察小组(visiting group)成员参与开发定量指标,例如向他们咨询衡量成功的标准和指标,确保任何新颖的方法都可以成为强有力的评价证据。尽管如此,内部评估小组提供的研究投入和绩效指标信息是在研究理事会内部发掘的,它们只可能适应于某类研究,因此,需要把它们整合到利用同行评议方式进行的评价活动中。
总之,在英国基础研究资助机构中,内部专家对评价工作和政策制定工作起支持作用,它们是英国专业科研评价队伍中不可缺少的组成部分。尽管同行评议仍是评估基础研究最令人满意的方式,不可能被内部专家评价方式替代,但可以肯定的是,评价小组能提供极有价值的政策信息,能为同行评议过程提供许多证据。
三、利用外部专业评价人员的方式
1.实时评价大型R & D计划
英国科技管理部门认为,外部评价人员的评价比内部评价人员的评价更深入,更具有可靠性和公正性,因此,大型R & D计划的评价一般都委托给外部评价人员。例如,英国国家信息技术计划[8](注:该计划由3个政府机构共同资助(DTI、国防部和SERC),涉及公司之间在竞争前的合作和公司与大学的合作。)(Alvey计划)的实时评价就是由外部评价人员完成的。
在开始实施Alvey计划时,DTI决定在计划运行过程中要开展实时评价,通过把评价结论立即反馈到计划运行过程中,提前发现问题并作出纠正。Alvey计划的实时评价包括两个部分:由SPRU评价计划的适宜性和影响,由PREST评价计划的结构和组织。这两个机构的科技政策理论研究人员要把评价过程中开发的专业评价知识传授给DTI的评估小组和参与评价工作的DTI经济学家,使他们掌握最新评价专业知识和经验。
2.制定评价手册
利用外部专业评价人员制定评价手册是一种一次性使用外部专家的方式,它不同于DTI和一些研究理事会采取的内部与外部评价专家之间需要长期维持联系的方式。
英国健康和安全执行部门(HSE)就采用这种评价方式。通过委托评价理论研究人员起草详细的评价手册,指导内部评价人员对研究活动进行事后评价[9](注:PREST,Protocol for the Evaluation of HSE Research,Manchester,1988)。评价理论研究人员在起草评价手册时,不仅要充分反映HSE的研究人员、研究计划制定人员以及研究成果用户(包括HSE的其他部门、外部研究人员和工业界)的意见,而且还要提供评价案例,供内部评价人员参考。由于在起草评价手册时调查了受评价活动影响者的意见,HSE的评价工作也获得了很高的可信度。
3.外部专业评价人员和同行小组相结合的评价模式
经济和社会科学研究理事会(ESRC)采用外部专业评价人员和同行小组相结合的评价模式,对它管理的研究计划、研究中心和培训计划做非常详细的定性评价。其中,专业评价人员发挥两方面的作用:采集研究绩效方面的定量数据,指导评价。例如,ESRC在评价地方研究实验室时,专业评价人员要与实验室的管理者共同商定评价的范围,然后向同行评议小组提供详细的评价证据。这些证据不仅仅涉及研究质量,还包含管理问题、相关性和影响。评价座谈会、同行小组可根据这些证据作出判断。从表面上看,这种评价模式和欧共体的小组评价模式之间没有明显差别,但是,这种评价模式中的评价专家在确定评价内容和评价实施方面比欧共体评价模式中的评价人员有更多的控制权。
四、结论
1.充分发挥内部评
估组织和外部评价专家的作用,使两者相互密切配合,对科研评价工作非常重要
内部评价专家的产生和发展来源于政府行政管理工作的需要,他们一般有制定研究计划、管理研究、为同行评议提供支持以及委托和实施评价的职责。由于他们熟知自己部门的使命、了解评价的需求和目标,因此在设计评价方案的过程中,他们的意见起了决定性作用。但是,评价是一项专业性和学术性极强的工作,不仅需要丰富的调查、分析和解决问题的能力,还要通晓管理学和经济学的有关专门知识、熟练掌握评价方法,而内部评价人员不可能花大量时间充分掌握这些知识。可见,如果没有外部评价专家为内部评价专家提供专业培训和咨询服务,政府机构要建立评价职能是非常困难的。
2.以下几个因素可能影响评价的可接受程度
(1)为评价活动提供有力的组织保障。资助机构要有高级公务员负责评价活动,只有这样评价活动才能受到高层的认可,且不受任何要挟和胁迫。
(2)允许不同资助机构对自己的评价活动进行安排。不同资助机构都有自己特殊的评价需求,评价体系要反映这些需求。不能草率地对各个机构的评价工作强加一些硬性要求,否则,评价体系将缺乏可操作性。
(3)把评价作为政府R & D资助与管理全过程的一部分。只有这样,才能重视评价工作并对其做周密部署,使政策制定者从评价中获得最大的利益。
(4)外部专家在学界的声望深刻地影响评价公正性和评价结论的可信度。评估专家可能被指责为得出了在政治上有利的结论,以获取更多政府委托评价任务;小组评价易受专家地位的影响,小组成员总是想要保护自己所属专业领域的声望;而声望卓著的专家易于被信任。
(5)在评价时要广泛咨询广大科学共同体。只有充分调查被评价团体及其同行、科研管理人员乃至研究成果用户的意见,并且适时利用评价专业技能,科研人员才可能接受评价专业人员的结论。
3.评价方法的日益复杂化要求评价人员具备一定水准的专业知识。内部评价人员和外部评价人员相结合组成评价共同体,既有利于内部评价人员迅速掌握最新的评价 《英国科研评价模式:由专业评价人员进行评价(第2页)》