自动化与人的判断：什么不该外包
系统推荐比人快，也比人一致，但快与一致不等于合适。本文引述自动化风险与监督控制的研究，说明自动化偏见与情境意识流失两类问题，并给出系统只给候选、教师记录选择理由这条界线的适用边界。
本文性质： 实证 + 模型（Evidence / Model） 证据标签： 观察 Observation／模型 Model／假设 Hypothesis／实证 Evidence
本篇涉及的证据类型：观察 Observation／实证 Evidence／模型 Model。凡属本院课堂观察与教学模型的部分，均不作效果承诺。
越来越多的判断正在交给系统：推荐学什么、判断水平、决定练哪道题。这些判断大多数时候比人快，也比人一致。但快与一致，不等于合适。
01快与一致，不等于合适
本院在使用自动选题工具时注意到一个现象：系统倾向于推荐学员已经做得不错、正确率高的题型，因为那样能维持正向反馈与继续练习的意愿。但从教学上看，真正需要的往往是那些正确率低、让人不舒服的题型。系统的目标是维持使用，教师的目标是补上短板，两者并不总是同向。
02人因工程记录的两类问题
人因工程领域很早就记录了两类问题。Parasuraman 与 Riley 1997 年关于自动化的综述，区分了自动化带来的使用、误用与滥用三方面风险，其中自动化偏见指人倾向于接受系统建议、放弃独立判断。Cummings 关于监督控制的研究则指出，当人把大部分操作交给系统之后，自己维持情境意识与介入能力反而更难，因为介入的机会与练习机会都变少了。换句话说，把判断交出去的同时，也把判断的能力一起交了出去。这两条结论来自航空与控制工程等高风险领域，迁移到教育场景需要谨慎。
03系统只给候选，教师记录选择理由
本院划了一条线：凡是判断涉及这个人现在最需要什么的部分，模型只能提供候选，不能做决定。具体做法是让系统输出三个候选任务并列出理由，教师从中选择，并记录为什么不选另外两个。这条线不是因为不信任技术，而是因为选错带来的代价由学生承担，而系统不承担这个代价。
04人的判断同样有偏见
第一，人的判断同样有偏见，教师也会偏袒熟悉的教学方式，不能把人工当成正确。第二，记录理由会增加工作量，班级规模大时难以执行。第三，涉及学习困难的判断应当交给专业评估人员，不能由教师或系统单方决定。
