深度剖析 / 推理与测试时计算
推理与测试时计算
思维链、自我一致性、思维树/图,以及支配它们的推理期扩展规律。
- 正确理解思维链忠实性与可监控性是两个答案不同的问题,而把它们合并,正是为什么团队要么把那段轨迹当审计日志归档、要么直接删掉。它仍然是个糟糕的解释。但 OpenAI 的 CoT-Control(2026 年 3 月,13 个推理模型)测的是「压制」:Claude Sonnet 4.5 控住自己思维链的比例是 2.7%,而控住最终输出是 61.9%;并且可控性随思考变长、RL 变多、问题变难而下降——也就是每一条买到准确率的杠杆。于是:那段轨迹是一个弱解释,同时是一个你并未设计出来的高召回传感器;结构化输出是模型以 61.9% 控住的那条通道、因此不是你的信号;而轨迹可见性在成为一个监控问题之前,先是一个采购问题。
- 自一致性与采样采样加多数投票为何有效、偏差被放大的精确失效条件、收益饱和曲线,以及如何花好 k 这笔预算。
- 思维树与思维图在部分解之上的刻意搜索、乘性成本,以及对部分状态打分器这一承重依赖。
- 核验器引导的搜索结果型与过程型奖励模型如何引导 best-of-N 与束搜索、推理时的奖励作弊,以及为何核验器才是产品。
- 推理时扩展测试时计算作为第二条扩展轴、按难度自适应的计算最优前沿,以及更多思考何处停止见效。
- 推理何时有用(何时烧钱)综合决策规则——任务类别 × 可核验性 × 预算——升级阶梯、点名的烧钱模式,以及一份该做/不该做清单。
- 自适应思考与努力度预算`budget_tokens` 已废弃——Claude 的 `effort`、Gemini 的 `thinking_level`、OpenAI 的 `reasoning_effort`,以及模型何时会覆盖你的预算。
- 把推理一路带过工具调用推理变成了一个带签名、不透明、且必须原样交还的输入——于是塞进一句提醒、运行途中加个工具、或裁剪历史,如今都会让它失效:要么悄无声息,要么一个 400。回送,绝不重建。
- 潜在推理与你从此拿不到的那份轨迹连续思维与循环深度买到的是实打实的能力——两层 Transformer 用 D 步连续思维即可解决图可达性,而离散思维链需要 O(n²) 步解码;一个 35 亿参数的循环模型在 50 圈时达到约 500 亿参数量级的等效计算——代价是删掉了五道生产控制所消费的那件产物。把那五道点名;承认轨迹从来就不忠实、却照样留着它,因为监控它仍然胜过只监控动作;然后把探针拟合在信号集中的那几步靠前的潜在推理上——而这让它变成一个采购问题,因为托管的潜在模型不会给你任何残差流可读。
- 测试时计算的逆向扩展把思考预算往上拧,是所有人都信得过的那个旋钮,而在四类可识别的任务形状上,准确率会随推理长度上升而下降——干扰项密集的抽取、显眼特征恰是错的估算、需要跟踪约束的演绎,以及表述过拟合。这个失效按模型家族分化,所以 effort 属于模型身份的一部分、而不是一个调参项;而只在单一 effort 档位上跑过的评测,看不见下一次升级会发布的那个回退。
- 为推理 token 记账推理 token 是你账单上唯一一项在日志里找不到对应物件的费用,而三家主要提供方报告它的形状互不兼容——OpenAI 与 Anthropic 把它嵌在输出计数里,Gemini 则把它放在输出计数旁边——于是每个跨厂商成本看板都会照抄的那一步算术,会把一家高报成数倍、把另一家同等地低报。请在边缘按 (厂商, 模型, 接口) 为键做一次归一化,字段缺失时默认为 null 而不是 0,按「模型」而非按「提供方」去跟账单对平,并记住连续性要付两次钱:先按输出价付一次,之后那团数据每搭一轮上下文,就再按输入价付一次。
- 摘要与密封块:你的 API 交回来的那份推理模型产生的那段推理你存不下来——只能存两个性质相反的替代品之一:一份可读的摘要,它是关于那段推理的一次全新生成;以及一个厂商视为忠实、而你读不了的密封块。密封的那个是一项协议义务(Anthropic 会拒绝 thinking 块被改动过的请求;Gemini 的 thought_signature 缺失在函数调用上就是一个 400),而且它对字节极其脆弱——一份 OpenClaw 报告把反复出现的拒绝追到了一个重写已签名文本的 Unicode 清理函数。建在可读那份产物之上的忠实性审计、过程评分与事故收据,量的是摘要器。
- 预算意识,而不是预算大小想得更久与多调工具会因同一个原因停在平台期——模型对自己剩余额度没有表征,于是多出来的预算只会把它本来就在做的事摊得更宽。2025 年的一项研究把一个预算计数器加进上下文,在工具调用次数相近的前提下把解决率从 36.8% 抬到 55.4%;这正说明预算加大后的平台期是一个分配问题而不是资源问题:留出 10%-20% 作落地储备、把终止原因拆成完成/放弃/被截断,并且只在被截断占比上升时才调高上限。