推理模型 vs 非推理模型。
本条目讲 2024 年以来在全行业出现的一个能力维度：会在回答前花额外推理期算力"思考"的模型。读完后，你将能说清推理模型实际做了什么不同的事、何时有用、何时浪费钱，以及为何曾经清晰的"推理 vs 对话"模型之分如今变成了一个旋钮而非一个类别。
"推理"在机制上的含义。
非推理（"直答"）模型读完提示就立刻开始吐出答案。推理模型会先生成一段内部的中间 token 链——探索方法、做子步骤、自我检查——之后才吐出可见答案。这段中间流被称为思考、推理或草稿 token。它在 API 中通常被隐藏或被摘要，但它是真实的生成：会消耗 token、时间与金钱。
核心想法是推理期算力：在出答案时为每个问题花更多计算，而不仅是更多参数或更多训练。让模型在落笔前"算一算"，会在能分解为步骤的问题上可度量地提升准确率——而对无法分解的问题几乎没有帮助。
这在概念上与提示一个普通模型"一步步想"是同一种效应，但它被训练进去了，且能力强得多。模型已学会产出长而有产出的推理轨迹并加以利用，而非依赖一个提示技巧。
何时有用、浪费或有害。
- 有用。多步数学、逻辑与规划、复杂的代码生成与审查，凡是模型能从"探索并否决方案后再落笔"中获益之处。思考 token 让它在中途抓住自己的错误。
- 浪费钱。简单事实查询、分类、抽取、简短对话回复。没什么可推理的——模型要么知道要么不知道——所以额外 token 是纯粹的成本与延迟，毫无准确率收益。
- 可能反而有害。少数任务类型上，校准良好的直答最好，而延长思考引入过度思考或自我怀疑。思考更多并非单调更好。
实践启发式：推理模型用延迟与成本换取难题上的准确率。当问题确实难、且答错代价高时，这是极好的交换；对高量、简单、延迟敏感的流量，这是糟糕的交换。
这个类别正在塌缩为一个旋钮。
早期，提供方发布与其"对话"模型分开的独立"推理"模型家族，你二选一。截至 2026 年的明确趋势是带可调思考预算的混合模型：同一个模型可以多想、少想或完全不想，由请求上的一个参数控制。思维模型从"选推理模型还是对话模型"转为"为这个请求设定模型被允许思考多少"。
这本就是更好的思维模型，因为正确的思考预算是按请求而非按模型决定的。同一个模型应当在棘手的规划步上深思，并在同一个智能体里对琐碎分类即刻作答。
可见的推理轨迹并不是模型如何得出答案的忠实解释。它提升准确率，但把它当作模型"真实"推理的可信审计日志是一个已知错误。把它当作调试信号与质量杠杆，而非关于模型内部过程的真相。
这在智能体设计中如何落地。
在多步智能体内部，不要为整个循环选一个思考档。把预算匹配到步骤：
- 路由/工具选择：最少或不思考——你要快速、可预测的分派。
- 难的规划或自我纠正步：慷慨的思考预算——这正是它物有所值之处。
- 最终答案合成：适中或不思考，取决于合成本身是否困难。
某步思考被浪费的标志：当你能检查轨迹、而它只是在复述问题或漫谈而非做真正子工作时。这是个信号——为该步降低预算或切到直答模型。如本节一切，唯一可靠的裁判是你自己的评测集——在像你的任务上，按步骤度量开/关思考时的准确率与成本与延迟。