用大白话讲评测。
评测是一台测量仪器,而你必须用它量的第一样东西,就是它自己——因为一个 50 个用例的集合,置信区间大约是 ±11 个百分点,于是某个团队周一上线时宣称的「提升 6 个点」,通常和把同一份代码跑两遍没什么区别。三道很便宜的检查,就能把一个记分牌和一件装饰品分开:你的噪声底线是多少、你的打分器是否同意你、以及这个集合究竟能不能失败。在让一个数字改变决定之前,先做完它们。
步骤 1评测是什么,又是为什么而存在。
剥掉术语,一次评测就是一个清单里的三样东西,反复重复:
- 一个输入——一条提示、一份文档、一个任务描述、一次工具调用请求。
- 一个期望行为——什么算好:对的答案、对的动作、对的形状。
- 一条打分规则——你怎么判定(用程序或由人)返回的东西是否对得上。
一个评测集就是许多这样的三元组,跑过同一个系统再汇总成一个分数。如果你能用代码描述成功,你就能写评测;如果你根本描述不出来,那你还没有一个定义清楚的任务,而那是另一个问题。这门实践已经成熟到有了共享工具:Inspect,英国 AI 安全研究院(UK AI Security Institute)出品的 MIT 许可框架,附带两百多个预置评测,并把「模型打分」(model graded)做成一等支持;而现在每家商业可观测性厂商都在自己的轨迹存储上栓了一个评测产品。
但评测被采纳是为了一件事,用起来却变成了另一件,而这两件的要求不同。调试——「我的智能体哪里做错了?」——想要的是少数几个你逐个读过的用例;二十个就够,一千个反而更差,因为你永远不会去看。测量——「版本 B 比版本 A 更好吗?」——想要的是足够多的用例,让你在意的那个差异大于噪声。几乎每一个令人失望的评测项目,都是一个调试尺寸的集合被拿去回答一个测量问题。
有三条性质让一次评测成为仪器、而不是数字生成器,而三条都能在一个下午内量出来:它的噪声底线(什么都没变时分数会动多少)、它的打分器一致度(打分规则与你自己的判断有多常落在同一处),以及它的失败容量(里面当前有没有任何用例是失败的)。跳过它们,你跑的就不是实验,而是在收集一个统计量。
步骤 2噪声底线,以及没人算过的那道算术。
分数会自己动。采样是随机的,工具调用打到活的系统上,而智能体的轨迹会分叉——这正是逐位相同的重跑根本拿不到的原因。所以第一个该确立的数字不是你的分数,而是你的离散度:把没改动的系统跑三到五遍,记下区间。落在这个区间之内的,都不算结果。
即便系统完全确定,还有第二个、而且更大的不确定性来源:你的集合是一个样本。对 n 个用例上的通过率 p,95% 区间约为 ±1.96 × √(p(1−p)/n):
cases observed pass rate 95% interval smallest change you can see ----- ------------------ ------------ --------------------------- 20 80% ±17.5 pt nothing short of a disaster 50 80% ±11.1 pt large regressions only 100 80% ±7.8 pt ~10 pt effects 400 80% ±3.9 pt ~5 pt effects 2,000 80% ±1.8 pt ~2 pt effects
这就是为什么「先从 10 到 100 个用例起步」这条标准建议是好指导、但贴错了标签。那种规模的集合是用来找缺陷的。如果你上线了一次提示改动、看着分数在五十个用例上从 78% 走到 84%、就宣布胜利,诚实的读法是你什么也没学到:每一次测量的区间,都宽于它们之间的那道差距。
修法并不总是「去收集两千个用例」——通常是换一种比较方式。让两个版本跑同一批用例,只数它们判定不一致的那些。这种配对设计扔掉了两边都做对的用例(它们关于差异不携带任何信息),而且灵敏度高得多。这个检验是精确的,你用纸笔就能做:
# 50 shared cases. A and B agree on 44 of them; 6 flipped. B fixed what A broke : 5 B broke what A fixed : 1 # Two-sided exact binomial on 6 flips, 5-1 split: p = 0.22 -> not significant # Same set, a change that actually did something: 12 flips, 11-1 split. # p = 0.006 -> real, on fifty cases, with no new data collected.
有两条推论值得内化。一次在五十个用例上产生六个翻转的改动是未被测量,而不是「一个小胜利」——同一道算术也适用于厂商宣称与公开榜单,那里一个 200 题的基准报出 48.6%,就带着大约 ±6.9 个百分点。其次,读翻转、别读总分:B 弄坏的那一个用例,往往比它修好的那五个更有信息量,因为那是一处你现在知道了的回归。完整处理(包括多步轨迹带来的方差)见评测方差与统计效力。
步骤 3打分器通常是最弱的那个部件。
打分规则分三档,而它们之间的差距比大多数团队以为的要大。
- 可用代码检查的。精确匹配、正则、schema 校验、一次工具调用断言、「发票总额是否等于各行之和」。跑起来免费、确定、不漂移。只要任务容许,就选它;而且要改造任务让它更常容许——把要求从散文改成结构化输出,就把一次主观判断变成了一条断言。
- 模型打分的。一个带评分量表的大模型裁判。对开放式输出是必需的,也是最可能出错的部件,因为它的误差是相关的:一个奖励自信措辞的裁判会在所有用例上同时奖励它,于是这种偏差不会随用例增多而被平均掉。它还会在你脚下移动——裁判模型一升级,就把全部历史分数悄悄重新标定了一遍;所以要把版本钉住,并把换裁判当成一次迁移。
- 人工的。最准,也是你单次运行最负担不起的那一档;把它限在抽样上,用来校准上面两档,而不是当作日常关卡。诚实的成本核算见评测的成本。
如果你用裁判,就反过来评估它,而这套流程只需一个下午:自己标注 50 个输出,让裁判跑同样的 50 个,然后报告一致度——不是把你的标注当成真值去算裁判的准确率,而是你们两者落在同一处的比率,再加上每一处分歧的清单。分歧才是交付物。实践中它们会聚集:裁判过度奖励长度与流畅度、对自信的错误惩罚不足,而且当量表里的准则超过三条左右时就会漂移。在你跑过这一遍之前,你并不知道自己的记分牌量的是你的智能体,还是你的量表。见裁判校准与元评估,以及打分器博弈——那是被测系统开始针对打分器而不是针对任务做优化时会发生的事。
步骤 4造一个能失败的集合,再把它放到会咬人的地方。
一个集合是针对你的任务的,由你的流量和你的边角情形构成,而且小到你能为里面每一个用例辩护。有两个用例不可谈判:一个平凡用例,它应当永远通过——它一失败,说明坏的是你的测试装置,不是你的模型;以及一个已知坏用例,你以前修过它,把它留作回归靶子。除此之外,决定这个集合是否有用的性质,是它当前的分数。一个你的系统已经能拿到 98% 的集合只能探测回归,它无法向你展示一次改进,因为里面已经没有余量去量出改进了。如果你想让这个集合引导开发,它就必须包含你现在会失败的用例——而当它饱和时,该做的是退役旧用例、加入更难的,而不是庆祝。
关于公开基准:它们是用来筛名单的,绝不是用来做决定的。它们量的是代理任务;一旦每个前沿模型都过了 95%,它们就饱和成噪声;它们会渗进训练数据(污染);而厂商表格挑选提示、挑选测试装置、挑选对比对象。完整论证见批判地读基准;短版本是:唯一有资格改变你决定的数字,是你自己的集合产出的那个。
最后,有一个区分要带出去。离线评测在一个类 CI 的循环里跑一个策划好的集合:你控制输入、你知道好长什么样,而它们把守发布。在线评测跑在生产流量上,那里你无法预知正确答案,于是你量代理指标——解决率、人工改写率、点赞、下游转化。两者你都要:离线在上线前抓住回归,在线告诉你这东西对真实用户到底管不管用,而把在线失败转成新的离线用例的那条流水线,才是会复利的那部分。先读在线评测与离线评测,再读为何评估智能体很难(里面是智能体特有的问题:误差累积、路径依赖、没有唯一标准答案),然后读评测驱动的智能体开发把它接进 CI。
在你下一次让评测左右决定之前,花一个小时:把没改动的系统跑五遍并写下区间;在共享用例上比较两个版本、数翻转而不是数平均;手工标注五十个输出去对你的裁判,并把分歧读完。如果你正要上线的那个改动产生的翻转比你的噪声底线还少,你并没有测到一次改进——而一个没人会失败的集合,是一个披着进度条的回归探测器。