一次批准值多少,取决于它留下了什么关于「人看到了什么」的记录。
一个用户一秒之内就点掉的对话框不是监督,而你也无法证明它是——这是同一个缺陷出现了两次。请把这道闸设计成产出一件有约束力的产物,而不是一个布尔值:确切的载荷、它的摘要、谁批的、他被展示了什么、看了多久。仅这一件产物同时就是三样东西:阻止载荷漂移的那项控制、审计方会索要的证据,以及唯一能告诉你「有没有人真在读」的那个度量。
步骤 1按后果与可逆性分级,而不是按动作类型。
「任何写操作之前都确认」是那个制造疲劳的反模式。要紧的不是它属于哪一类动作,而是最坏情况有多坏以及它能多便宜地被撤销:
- 自动 —— 可逆、爆炸半径小、在分布内。执行并记录,不提示。(起草、只读查询、幂等重试。)
- 知会 —— 有后果但可逆。执行,但显著地呈现出来,并提供一键撤销。(一条内部消息、一张工单。)
- 设闸 —— 不可逆或爆炸半径大。阻塞,等待明确的人工批准。(动钱、对外邮件、删除、生产部署。)
在争论分级之前,先拿你自己的 trace 算一遍。一次四十步的编码或运维运行,在「每次写都确认」的策略下通常会产生八到十二道闸。如果一个复核者在每道闸上花的中位时间约为一秒——而那正是你自己的延迟数据里「反射式点击」的样子——你买到的大约是十秒的人类注意力,被摊得如此之薄,以至于一点也没落在那个真正要紧的步骤上。把同一次运行分级到两道闸,同一个复核者就能在每道上花三十秒,而且还更快结束。你在管理的是一笔预算,而它很小。
级别是决定的属性,由风险与上下文算出来,而不是挂在工具上的一个静态标志——这正是它该和爆炸半径里其他一切同处一个策略层的原因,也是渐进式自主把那把梯子按作用域而不是按智能体来对待的原因。
步骤 2把载荷钉住,否则你确认的和跑起来的是两个不同的动作。
生产环境里最常见的人在环缺陷:批准界面展示的是一组参数,智能体在恢复时重新规划,而参数在「批准」与「执行」之间变了。用户批准的是一封发给 alice@ 的邮件;真正执行的那次调用发给了 all-staff@。解法是结构性的——在中断时把确切载荷冻住、展示那一份,并在摘要发生漂移时拒绝执行。
# Approve the bytes that will run, not a regenerated paraphrase payload = tool_call.freeze() h = sha256(payload) decision = await human.review(payload, digest=h) if decision.approved and sha256(payload) == h: await execute(payload) else: await abort("payload drifted or rejected")
而各家已上线的 harness 恰恰在这里分道扬镳,并且截至 2026 年 10 月,没有一家替你做这件事。LangGraph 的 interrupt() 通过 checkpointer 持久化的是图状态,并用一个 Command 恢复;OpenAI Agents SDK 把工具标成 needs_approval、抛出一个工具批准中断,并从序列化的运行状态恢复;Claude Agent SDK 则通过一个 canUseTool 回调在流程内询问,其前面还有 hooks、allow/ask/deny 规则和一个权限模式(default、acceptEdits、plan、bypassPermissions)。它们每一家钉住的都是那次暂停。没有一家把参数钉到「人被展示的那个东西」上——这组对比是那篇四方批准机制对比的主题,而这类失败的一般形态则是《那次批准从未被绑定》。
恢复语义有两个在生产里会咬人的后果。请把摘要不匹配当作硬失败,而永远不要当作一次重新提示。并且在你上线批准机制之前,就让每个设闸的工具都幂等:恢复一次带有并行中断的运行,在不止一个框架里都被报告过会造成副作用重复执行,所以「批准过一次」必须能扛住被执行两次。
步骤 3产出一条批准记录,并把它当作那件产物——而不是一行日志。
这是几乎所有人都跳过的一步,也是让另外五步变得可被证明的那一步。一个布尔值告诉你对话框关掉了。一条记录告诉你那次监督究竟是什么,而它是唯一一个你能拿给审计方看、能在事件中回放、能据以算出度量的版本。
# The artefact the gate produces. Append-only, outside the agent's write surface. { "approval_id": "apr_01HQ…", "run_id": "run_8f2c", # which run, which step "step": 17, "tool": "payments.transfer", "payload_digest": "sha256:9b1f…", # the bytes, not a paraphrase "rendered_view": "sha256:4c70…", # what the human was SHOWN "tier": "gate", "decided_by": "u_4471", # a person, not a service account "decision": "approve", "dwell_ms": 860, # the fatigue signal "policy_version": "tiers@2026-10-24" }
有两个字段在做不寻常的活。rendered_view 是呈现的摘要而不是载荷的摘要:它是你日后回答「那个收款账号当时是可见的,还是被折叠在一个展开三角后面?」的方式——这个问题决定责任归属,而任何载荷哈希都答不了。而 dwell_ms 把疲劳从一种直觉变成一个你可以告警的数字。请让这条流只追加、并放在智能体写不到的地方,理由和决策凭据与审计轨迹所坚持的一样:一条被审计对象能编辑的记录不是记录。
步骤 4把数量压下去,把停留时间护住。两者都来自同一条记录。
一旦闸门开始产出记录,那两个真正要紧的度量第一天就能算出来,而它们是刻意朝相反方向走的。
- 每完成一个任务的批准次数 —— 把它压下去。把同质的低风险动作批量成一份可复核的清单(「一次批准这十二处标签改动」),并把中断延后,让智能体先把可并行的安全活干完、然后呈现一个合并后的决定点,而不是一路结巴。一道计划级别的闸——如计划复核与编辑所述——往往能替掉五道步骤级的闸。
- 设闸载荷上的停留时间中位数 —— 把它护住,并在它下跌时告警。一个
gate级动作上 p50 低于约两秒,意味着分级标定错了、或者队列太长;问题不在对话框的文案。也请按复核者分别看,因为疲劳会集中:那个一天清三十道闸的人,正是其批准最不值钱的那一个。
该往上汇报的是那个比值。「我们把每任务批准次数从十一次降到两次,而停留时间中位数从 0.9 秒升到 24 秒」是一句关于「监督真的发生了」的陈述。「我们上线了一个批准对话框」不是。如果批准是以队列而不是流程内的形式抵达,那么复核队列里的吞吐设计就是配套的一篇。
步骤 5默认项就是策略;不可逆的动作需要换一种手势,而不是更响的那一种。
对话框预选了什么,疲劳的用户就会选什么,所以不管文档怎么写,默认项就是你的安全策略。两条规则:默认项必须是安全、可逆的那个选项,即便这在常见路径上要多花一次点击;而且永远不要把破坏性的主按钮放在回车键或肌肉记忆的位置上。同一套逻辑也判了「一揽子模式」的罪:一个会话级的「全部接受」设置,是把默认项施加到还没有人看过的动作上——这正是那些模式该属于一次性沙箱、而不属于任何握着生产凭据的东西的原因。
对于真正不可恢复的动作,一个是/否模态框在结构上就太弱了——它和复核者一整天在清掉的是同一个手势。请改为升级手势本身:重新键入目标(「请输入表名」)、强制一段让后果变得具体的冷却时间,或者对最高一档要求第二位批准人(即职责分离里那条论证)。更好的办法是先把可逆性造出来。
在加一个更吓人的确认之前,先问问你能不能把那个动作做成可逆的。一个三十秒的发送延迟加撤销,能把多数「不可逆」动作变成可逆的,并彻底移除那道重闸——完整论证在撤销与可逆性。软删除加撤销,胜过任何仍然会被反射式点掉的最强模态框。
步骤 6什么时候压根不该加闸。
如果一个动作可以便宜地撤销、而且爆炸半径很小,那么一道闸不会增加安全性——它只会增加疲劳,而你随后要在那道真正要紧的闸上把这笔疲劳还掉。删掉它,把注意力花在别处。
另有三种情形,闸门是错的工具。当复核者无法评估那份载荷时——四百行的 diff、值班表上没人读得懂的一条 SQL——诚实的答案是对参数做一次策略检查,而不是一个人工橡皮图章。当这次批准是一项授予而不是一个单一动作时(「让它用这个连接器」),它属于权限授予与撤销——在那里它可以被审查、也可以被收回——而不属于一个随手消失的模态框。而当动作既常规又高频时,闸门其实是一个伪装过的人员编制决定——请在上线之前先给复核者的时间定价,正如人在环所论证的,因为一个没人出钱养的批准队列,会在两周之内退化成自动批准。