实战手册 / 智能体体验与人机交互

智能体体验与人机交互

智能体如何呈现自己、请求输入并赢得信任——人在回路系统的交互模式。

  1. 为信任与校准而设计
    信任由三项披露校准而成——你校验了什么、你没校验什么、以及校验本身会跳过什么——而第三项根本没有现成的 UI 范式。在一份已算过的样本里,70% 的校准误差就坐在系统自称「确定」的那 20% 条目上,而这正是每个看起来很合理的界面都会停止确认的那一档:复核它每找出一个缺陷只要读 3.8 次,而下一档要 100 次。这三项披露最好的实现,出在密钥扫描工具里,而不是对话产品里。
  2. 审批与确认体验
    一个一秒之内就被点掉的对话框不是监督,而你也无法证明它是——这是同一个缺陷出现了两次。所以请把这道闸设计成产出一件有约束力的产物而不是一个布尔值:载荷摘要、实际呈现内容的摘要、谁做的决定,以及停留时间。文中含按后果分级、把十一道反射式闸门换成两道真闸的那笔算术、截至 2026 年 10 月为何每一家已上线的 harness 钉住的都是那次暂停而不是参数,以及闸门属于错误工具的三种情形。
  3. 智能体的渐进式披露界面
    只把用户下一步需要做的决定摆在他面前——什么时候展开思考链、工具调用、diff,什么时候继续折叠。
  4. 透明度与可解释性
    「该不该显示思维链」这场设计争论,已由厂商裁定:截至 2026 年 10 月,各家主要推理 API 返回的隐藏推理都是加密的——Anthropic 放在每个 thinking 块的 signature 字段里,Google 用 thought signature,OpenAI 用 reasoning.encrypted_content——而可读的那部分只是另一次独立生成的可选摘要,且文档写明 summarized 是 Claude Opus 4.6 与 Sonnet 4.6 上的默认值。于是你的界面与真正的计算之间如今隔着三道未经验证的跳跃,而不是一道;你唯一掌控的那一层,是你自己框架吐出来的那层:准确的工具调用、那条查询、那份 diff、带文档 id 的被引用原文。请把 signature 当作一份凭据——逐字节原样回传、永不回显,因为 2026 年 8 月的一篇论文报告称加密推理可以从一个兼容模型里被重放出来——并且永远不要把厂商摘要标注成智能体的推理。
  5. 中断、引导与交接
    中断是一个 MCP 允许接收方忽略的请求,而恢复是一次重新执行——LangGraph 的文档写明节点是从头重启、而非从 interrupt() 那一行继续——所以真正的工程面是「最后一次持久写入」到「叫停落点」之间那一段,那里的每一个副作用都会跑两遍。文中拿一个六步客服智能体算到底:人叫停之后它又把回复发了一遍;另有没人设的暂停上限、那次撤销掉人类修复的交还,以及为什么对一次四秒的调用,诚实的控制是撤销。
  6. 渐进式自主
    你设计的梯级是按作用域的,而每个已发货 harness 的旋钮都是按会话的:截至 2026 年 10 月,Claude Code 有六种会话级全局权限模式,Codex CLI 把三种沙箱模式与一条独立审批策略交叉组合,而它们没有一个能同时说出「打标签时可观察者、退款时只操作员」。所以梯级住在凭据作用域与按次调用的允许/拒绝策略里,模式选择器只决定「该问谁」。晋级需要某一作用域内看得见的履历,降级的代价必须低于晋级;而一个分类器梯级——Notion 的审核模型、Claude Code 的 auto——会让那个分类器的假阴性率成为你的自主性策略。
  7. 为失败与恢复而设计
    在叠加之前就停下的优雅失败、把撤销作为让更低摩擦变得负担得起的安全网、可据以行动的错误提示、在后果上向关闭、在能力上向开放失败,以及信任修复这件显式的工作。
  8. 异步与离场:无人盯守运行的体验设计
    过了九十秒就没人在看了,于是贵的问题是重新进入而不是等待:以运行为单位的收件箱、只花在决策上的通知预算、把状态推进交付物、用 diff 取代聊天记录,以及前置授权——因为一道背后没人的闸门就是死锁。
  9. 共享与多用户智能体
    第二双眼睛会同时打破三条假设——一个意图、一套权限、一个负责的人——而终结试点的是归属塌陷而非泄漏:把每次运行绑定到一个人类委托人、权限取交集,并把名字打印在屋里人看得见的地方。
  10. 撤销与可逆性
    每一个确认弹窗都是你没做撤销而寄来的账单:按撤销代价而非吓人程度给动作排序,用一个延迟窗口买下时间,并让每个工具返回一个撤销句柄——因为确认要求人去预测一个坏结果,而撤销只要求他认出一个。
  11. 首次运行与用户引导
    第一次会话立下一个关于"它能干什么"的持久先验,而能力巡礼把它校准到了天花板:尽早演示一次拒绝、在用户真实数据上挑一个你能打包票的首个任务,并停止打包索取用户根本无从评估的权限。
  12. 记忆与个性化的交互设计
    记忆是唯一一项最坏后果不是答错、而是隐私事故的智能体功能,而它走到那一步靠的是一个默认设置:静默写入——用户无法纠正、无法同意,也无法要求遗忘一条他们从未看见被存下的事实。
  13. 等待与延迟的交互设计
    放弃率跟随的是可读性而非时长,所以给一次智能体运行削掉几秒几乎买不到什么——开工前先公布计划、重排计划让可核验的事先发生,并在一个你自己定下、而不是用户自己发现的阈值上交接给异步。
  14. 引用与来源归属的交互设计
    对四款生成式搜索引擎的审计发现,只有 51.5% 的句子被其引用完全支撑——于是没人点开的脚注只抬高了自信、没抬高正确率:在生成过程中挂上片段级引用、把核验一条主张的代价压到三秒,并去测埋入错误的识别率而不是点击率。
  15. 成本与额度的交互设计
    没人拿 token 做预算,而一个不带控制件的实时金额计数器只是一份带数字的焦虑——用用户所要的那个单位来给表计价、把账单排在实时仪表之前发布、在重尾分布上给区间而不是给点,并去量校准度而不是开销,因为一个以"降低开销"为目标优化的成本界面,会把回报 55 倍的工作流连同亏钱的那条一起掐住。
  16. 生成式界面与智能体渲染的界面
    智能体一旦开始渲染界面而不是描述界面,你的测试矩阵就不再有限——所以先把"挑选"这一档榨干再上"组合",让每个组件在其 prop 空间上行为完备,绝不让生成出的界面决定任何事,快照载荷而不是像素,并留一个能把整块界面退回散文的开关。
  17. 把智能体嵌进一个既有应用
    聊天面板是最便宜、也是被用户弃用的那块界面,因为它对眼前那块屏幕一无所知——改把智能体锚定在对象上、把视图作为结构化上下文而不是截图传过去、沿界面已有的那条代码路径写入,并从第一天起就把状态放在服务端,因为这是此处唯一无法事后补救的决定。
  18. 通知与摘要
    决定要不要打扰一个人,是第二套策略,有它自己不对称且只进不退的代价——一条无用的通知会永久压低接下来五十条所得到的注意力,而静音是一个吸收态——所以按决策期限而不是按重要性路由、在智能体没有投票权的通知服务里按收件人做预算,并衡量"窗口内被处理率"而不是投递率,因为这个组件的失效在你的日志里长得和成功一模一样。
  19. 无障碍的智能体界面
    这里坏掉的东西没有一样是标记,全是时序,于是自动化审计在一个没人能驾驶的界面上返回全绿——辅助技术假定页面会安定下来,而智能体产出的页面从不安定;接到 aria-live 上的 token 流会连着四十秒盖过自己的用户说话,而自动批准倒计时精确地歧视了读得最慢的那批人。
  20. 智能体产出的复核队列
    每复核人时能做出的决定数,是智能体被允许交付多少工作量的硬性乘数,所以队列才是自主上限——按复核的期望价值而不是到达时间排序,做一个用来做决定而不是读轨迹的界面,并把 98% 的通过率读作一道坏掉的控制,而不是一个好模型。
  21. 权限授予与撤销
    你从 OAuth 继承来的那块授权页,假定的是一个行为在构建期就固定下来的行动者,而智能体每跑一次都在打破这个假定——但真正决定你能拿到多少访问权的,是撤销那块界面:收回访问权不可见时人们会超额授予,看上去永久时人们会吝啬授予。把范围解析成对象计数、把时长做成默认不是「始终」的一等选项,并把「访问权消失那一刻,正在跑的智能体该怎么办」也设计出来。
  22. 共享频道里的智能体
    团队频道把一对一对话一直绑在一起的两件事拆开了——智能体在为谁办事,以及是谁写下了它正在读的文字——而每个框架仍然只用一个 user 字段装下两者。请默认沉默,并只把被称呼的那条消息当作指令;在请求发生的那一刻从发起者那里解析权限,再与这个房间被允许看到的东西取交集;并把粘贴、转发与机器人撰写的内容标成它本来的那个不可信档。
  23. 用户自撰技能
    被保存下来的指令等于把一条提示词供应链放进了你的产品——有名字、可叠加、靠复制粘贴分发,并以调用者的权限执行:调用要保持显式,因为用户是为自己而不是为检索器命名技能;在叠加替你决定之前先把优先级写明;并把用户自撰的文本渲染为用户权限。
  24. 计划的审阅与编辑
    一块计划界面把十二个知情的决定换成了一个不知情的决定,因为计划里的每个参数都是在任何工具跑起来之前猜的——所以请用计划让用户掌舵,把授权留在载荷为真的那个不可逆步骤上。文中覆盖用户真正想要的那四种编辑、以及为何一次删除必须变成一条活过重新规划的常设约束,计划默默做出的那两个承诺,应对计划漂移的一条机械式重问规则,这块界面属于错误决定的那四种情形,以及那个会告诉你「该把它删掉」的编辑率。
  25. 回退、分叉与副作用
    Claude Code 的检查点捕获的是经由它自己那套文件工具所做的编辑——于是那条 shell 命令、那次 push、那封已发出的邮件,全都活过了用户亲眼看着发生的那次回退:检查点的边界是你的工具面,而他们会把它读成整个世界。请给每个工具打上可回退/可补偿/不可逆的标签,把分叉点挪到第一个不可逆动作之前,把恢复拆成代码与对话两档——因为那四种组合每周都有人要,并让回退弹窗开头就说清它「不会」撤销什么。
  26. 主动型与无提示智能体
    主动型智能体是一个披着判断力问题外衣的特异度问题:在 2.2% 的基础率下——每天 180 条入站、其中四条需要你——一个特异度 97% 的触发器会产出 5.3 条假警报对 3.6 条真警报,而要达到 80% 精确率需要 99.6% 的特异度,这是任何提示改写都到不了的地方。请改用确定性规则把候选集切小,并注意:删掉那条提示的同时也删掉了作用域与授权;给每个触发类别自己的工具作用域与 token 预算,按「条目 + 理由」去重,并盯住精确率、抽样漏报、候选量与清闲日开销。
  27. 默认值、设置,以及谁改得动它们
    你的默认值就是你的策略——在 5% 的变更率下,你 95% 的安装基数跑的是某人在一场排期会上挑的那个值——而一项智能体能写入的设置只是偏好,界面管它叫什么都一样。文中把偏好、硬性要求与能力授予区分开(Codex CLI 的 allow_managed_hooks_only 只在 requirements.toml 里起作用、放进 config.toml 则是空操作,而这就是整个机制),说明在对话里说出的「把那个关掉」为何有三种含义、而你的产品实现的是最弱的那一种,主张用「最坏的、未被预料到的后果」而不是机制来给设置重写标签,给每一次授予一个显式的作用域与寿命,并点名那个你未经选择就继承下来的「失败放行」校验器。