随着全球人才竞争进入到白热化阶段,高等教育质量成了国内外教育研究领域中反复提及的话题,得到政府、学校、学者等多方面的高度关注。多方呼声要求提高高等教育质量,加强人才培养体系建设。
众多研究者也都在反复讨论,如何推动高等教育质量评价方式的改革,以适应新形势下监测、评估高等教育质量的动态发展水平,和补足高等教育短板的需求。
在此背景下,美国印第安纳大学教育领导与政策研究方向副教授Alexander C. McCormick近日发表的演讲《超越KPI:以改进为导向的评价系统改革》(Beyond Key Performance Indicators: Reforming Evaluation Systems to Promote Improvement),为我们提供了一条来自国外学者的新思路。
这条思路本质上是改变人们的思维模式,让人们跳脱传统的绩效评价思维,聚焦到富有建设性的、以改进为中心的新评价体系之上。
McCormick在美国印第安纳大学教授包括高等教育及学生事务方向的课程,也是全美大学生学习投入调查项目(NSSE)的负责人,并担任学校高等教育中心副主任一职。在此之前,他曾任卡耐基基金会进阶教学方面的高级学者。
什么是高等教育质量?
追根溯源,当我们谈起高等教育质量的时候,我们到底在说什么,高等教育质量又包含哪些概念和命题?
1998年,联合国教科文组织第一次世界高等教育大会公报《面向二十一世纪高等教育宣言:观念与行动(草案)》认为:“高等教育的质量是一个多重的范畴。它应包括高等教育的全部功能与活动:各种教学与学术计划、研究与学术成就、教学人员、学生、校舍、设备、设施、社区服务和学术环境等。”
而McCormick在演讲中表示,高等教育质量是众多可能性的维度的集合,它包括了参与度、就业率、教学质量、学术质量、研究创新、社会贡献、国际化成就等等——而这些都只是质量的一部分。
也就是说,高等教育质量并不仅仅取决于政府或学校等单个利益相关方,还取决于教师、学生、企业与社会各界的共同参与。
可以说,高等教育质量的概念具有相当的复杂性和宽泛性,其表征和内涵均比较丰富。这就给评估高等教育质量提出了挑战。
“KPI”考核评价方式
KPI的全称是“关键绩效指标考核”(Key Performance Indicator),不仅是企业绩效管理中的一个重要考核方式,近年来,也逐渐成为主流的高等教育评价方式之一。
它先筛选出对组织整体目标起到关键作用的指标群,接着就对这些指标进行量化计算,而得出的结果就代表了组织整体的绩效水平。
这在高等教育质量评价上一般表现为:计算学生满意度、学业完成水平、就业率、学术发表成果等在投入产出中能够被量化的指标,并将这些指标视为评估高等教育质量的决定性依据。
KPI的优点
作为目前应用最为广泛的绩效管理工具之一,KPI考核具有多项优点。当天,McCormick就列举了以下一些优点。
一是可以具体、直观地展现抽象的“质量”。KPI考核将高等教育质量这一抽象的概念转化为为具体的数据,让结果清晰可见。
二是高度透明,便于外部监督。通过媒体报道,KPI可以让学校信息更公开透明,便于学校与社会各界共同发现学校存在的优势与问题。
三是能够更好地支持问责机制。不同类别的KPI一定程度上能够反映出被评价组织在不同领域下存在的不足,从而让有关部门迅速采取措施,稳固优秀的KPI表现,问责较差KPI相关的部门人员。
这其中暗含了一条逻辑,即“只要向有关部门问责,绩效表现就会更佳”。然而,即使责任得到清楚的划分,但若不能找到绩效背后问题的根源,最终也只会事倍功半。
四是具有稳定性、一致性和可比较性。作为数据形态之一,KPI模糊了不同学校因校园规模大小、政策、环境、文化等方面所造成的差异性,而且在时间、空间两个维度都可以反复查看比较。
KPI的问题
除了优点,McCormick也指出了KPI考核中存在的3个问题:
一是不同组织与学科之间的差异性往往被忽略。各个院校的发展目标、愿景、任务不尽相同,对学生的知识、能力水平要求也不一致,于是,在进行KPI的横向比较时,一部分有自身独特优势的院校就会因无法达到KPI的要求而处于劣势。
二是代理问题与目标置换。尽管KPI可以令抽象的概念变得更为具体、直观,但同时也不可避免地把复杂问题简单化了,其结果只能是尽可能贴近了真实状况的估计值。尤其在受很多其他无关因素影响时,为了缩小测量误差,形成有助于决策的参考意见,人们往往需要在处理数据时牺牲一部分真实性,导致结果出现一定程度的扭曲和失真。这就是以KPI作为高等教育质量的“代理”所产生的代理问题。

此外,KPI考核的激励方向是让人更多地注意绩效表现,这也会促使一些院校将目标从原本注重提升教育质量上,转移到提升KPI上,从而陷入“唯KPI论”、“形式主义”等误区。这被McCormick概括为“目标置换”。
代理问题与目标置换
三是学生选择问题。几乎所有KPI考核都会通过学生的表现,评价教育的人才培养质量,然而学生的表现不仅与教育质量相关,更取决于学生个人的素质条件。
具备优良素质的学生自然更倾向于选择排名靠前、名声在外的院校,从而让该院校的KPI表现更好。长此以往,KPI与院校教育质量的关联性就会被削弱,一部分教育质量欠佳、但排名较高的院校可能就会凭借生源质量而获得与之不相称的好评,从而维持原有的高排名。
之所以产生“强校愈强,弱校愈弱”的“马太效应”,部分原因就在于此。
KPI的替代品
有没有能够避免KPI弊端的高等教育质量评价方式?
McCormick在会上分享了他眼中的替代品:知证改进(evidence-informed improvement)。
知证改进优于KPI
知证改进属于知证实践(evidence-informed practice)的范畴,强调在充分调研、掌握实证的基础上,利用实证采取最合适的行动。
需要注意的是,知证实践与基于实证的循证实践(evidence-based practice)并不完全相同。
从字面上看,知证实践的决策不完全依赖于证据,还会依赖包括专家个人判断、观点等在内的主观要素,而且其所依赖的主观要素也必须建立在决策者大量知悉证据(“informed”)的基础上,如此才能做到有据可依,也就能够一定程度上保障了实践的科学性与合理性。
为何知证改进比KPI要更具优势呢?McCormick首先厘清了高等教育质量评价的根本目的,即“我们为什么进行评价”。
高等教育质量评价并不是为了评价而评价,其目的是发现教育中存在的问题并加以改进。另外,改进必须从有信服力的实证出发,但又不能完全依赖实证,须结合理论分析、讨论,最后制定计划。完全依赖实证的KPI已在实践中暴露出一些问题,因此,仅将实证作为分析工具之一的知证改进也许更具合理性。
归纳起来,相较于KPI考核,知证改进具备以下优势:
一是KPI考核侧重于“评价”上,而知证改进更注重利用证据进行协调而系统的行动。
二是KPI考核倾向于忽视教师、学生等实际参与者,而知证改进更重视教学主体与利益相关者的地位。
三是知证改进可以更好地兼容院系间的多样性和差异性。
知证改进的具体操作流程
在McCormick看来,要完成一个成熟的知证改进活动,需要满足以下2个条件:
一是可以持续进行有组织、有逻辑的知证性措施;
二是可以监测有关措施对不同学生群体所造成的的影响。
具体的实施流程可以用以下4点来概括:
一是收集证据。证据收集来源需具备广泛性和多样性,既可以是正式的调查评估报告,也可以是院校、学生、教师的文件与网络内容等。
完成证据的收集后,评价机构需要对证据进行充分讨论和调研,分辨出其中哪些是真实反映教育质量问题的“信号”,哪些又是无效的“噪点”,最后系统地将证据进行编辑,组织成清晰的报告。
二是制定计划。处理完证据后,我们就可以进入改进阶段。

McCormick将改进行动计划分成以下几个互相联系、互相贯穿的部分。
三是实施计划。实施计划前,评价机构首先需要委托校内或校外的评估人员开展小型试点,预先观察反馈情况。
计划本身可以很大胆,但为确保成功,评价机构必须先让校内外利益相关方充分了解计划,并征得他们同意,同时要做好过程记录。
四是反馈结果。实施计划后,评价机构必须启动反馈机制,让受计划影响较大的群体反馈他们的实施情况与感受。
这些情况也可同时作为下一轮评估改进的证据。评估报告里须写明本次改进计划所得到的成果、发现的问题以及建议,并发放给各利益相关方共享,以期激励教育质量得到切实提高。
小结
发言临近尾声时,McCormick引用了如下一段话:我们最好将绩效衡量指标理解为一种可能有助于改进问题的信息,而不是问题的答案,特别是在那些底线难以捉摸的领域,这些衡量指标最好被认为是一种线索、解释、印象或有用的输入内容,而非事实。当然,所有的这些解释均带有一定的偏见、假设和价值观。
在现代社会,与高等教育相关的社会热点话题层出不穷,大学也越来越多地受到商业化、市场化的压力与挑战。
而以KPI为基准的高等教育质量评价体现出的,恰好是市场经济对于商品标准化与市场竞争的需求,它将原本姿态各异的大学教育标准化为一些同质的指标,同时利用这些指标制作出一系列噱头十足的大学排行榜,既“吸金”又“吸睛”。
然而,KPI或多或少缺乏对于学生和教育的关注与思考,也抹平了各个大学的教育特色。
我们要认识到,高等教育还有相当多“沉在水下的部分”是无法反映在指标上的。因此,McCormick“以改进为中心”的观点或许能为我们提供一个关乎未来高等教育质量评价的新思路,让我们走出评比高校强弱的怪圈,将目光真正放在改进教育质量上。
(来源: 未来教育管理研究)