工具/函数调用详解。
「工具调用」在 2024 年指的是一种机制,到 2026 年末至少指四种——一个普通的 JSON 请求、一个受模式约束的请求、一次对工具定义的检索,以及模型写出来、在沙箱里调用你工具的代码——而各家厂商都明文写着这几种彼此互斥。所以一个用工具的系统里,第一个决定不是暴露哪些工具,而是用哪种调用机制:那个选择在你写下第一个工具之前,就已经把你的模式保证、往返次数和 token 账单都定下来了。
步骤 1模型提议;你的代码裁决。
在每一次机制更替中都幸存下来的那个事实:模型不会调用你的函数。它输出一个结构化的请求,要求你去调用它。模型内部没有代码执行。即便是最新的会生成代码的那些变体,也只是把循环跑在哪里换了个地方——换到一个由你运维的沙箱里——而不是换了谁去执行真正的工作。
- 你在请求中描述可用的工具(名称、用途、参数模式);MCP 是让任何模型都能以这种方式触达任何工具的开放标准。
- 模型可以不用散文作答,而是输出一条工具使用消息:「用
{"city": "Paris"}调用get_weather。」 - 你的应用执行那个真实的函数,然后把结果作为一条工具结果消息发回。模型继续,此时它已经能用上那个结果了。
模型做的一切仍然是下一个 token 的预测。它在后训练中被教会:当工具会有帮助时,输出一种特定的 JSON 形状结构;而「调用」是你的代码对那个结构的反应。这也是工具描述属于提示词工程、而不属于样板代码的原因——模型是否调用、如何调用,几乎完全取决于那段文字。一段含糊的描述(「对用户做点什么」)带来不可靠的调用;一段精确的描述(「按 ID 获取用户。仅在你已有数字型 user_id 时使用;不要猜 ID」)带来可靠的调用。面向智能体的工具设计讲的就是这整个主题。
步骤 2线上形状。
# 1. You declare tools in the request tools = [{ "name": "get_weather", "description": "Current weather for a city. Use when asked about weather.", "input_schema": { "type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"] } }]
# 2. Model replies with a tool-use request (not prose)
{ "type": "tool_use", "id": "t_01", "name": "get_weather",
"input": { "city": "Paris" } }
# 3. YOUR code runs get_weather("Paris") and returns a tool_result
{ "type": "tool_result", "tool_use_id": "t_01",
"content": "12C, light rain" }
# 4. Model now answers in prose, grounded in the result
"It's 12C with light rain in Paris right now."
一次调用很少就是终点。结果可能引出下一次,直到模型手上的东西足够作答。那个循环——模型 → 工具请求 → 执行 → 结果 → 模型——就是智能体循环。由此而来的两个后果,没有任何机制能免除。循环归你所有:API 不会自动执行;是你写代码去识别一条工具使用消息、运行那个函数、把结果追加上去,再一次调用模型。以及你需要一个停止条件:一个总是报错的工具能让模型一直重试到你的预算耗尽,所以请给迭代次数设上限(规划与终止)。
步骤 3四种机制,以及没人去读的那条互斥规则。
到 2026 年 11 月,主流 API 把这些作为彼此独立、各有文档的特性提供,而它们之间的约束是文档里写明的、而不是在生产环境里撞出来的——前提是你读到了那一段。
- 普通 JSON 工具使用。默认方式。模型输出一个工具使用块;没有任何东西保证参数符合你的模式,所以你得自己校验。一次响应里可以到来多个调用(并行工具调用)——在 Anthropic 的 API 上,你必须把全部结果放在紧随其后的一条消息里返回,每个调用一个
tool_result块,否则请求报错。 - strict/受模式约束的工具使用。在工具定义上设
strict: true,会把采样切换到受语法约束的解码,于是参数在构造上就是符合模式的。OpenAI 以逐函数工具的同名开关提供同一件事。这是一项真实的保证,而代价是灵活性:Anthropic 要求additionalProperties: false以及一份完整的required列表,而且各家只支持 JSON Schema 的一个子集(各厂商的 JSON Schema 子集)。 - 工具检索。不再把每份定义都塞进提示词,而是让模型去目录里检索,拿回一些引用,再按需展开成完整定义。它之所以存在,是因为一个大目录首先是个 token 问题、其次才是个选择问题——见工具文档与可发现性与MCP 上下文过载。
- 程序化工具调用。模型写出代码,在一个执行容器里调用你的工具,于是一条五步的链只花一个模型回合、而不是五个。Anthropic 的文档明确写着
strict: true在程序化调用下不受支持,disable_parallel_tool_use: true也一样。见代码即动作。
各厂商身上的规律是同一个,而它正是要记住的那件事:你可以要一个模式保证,也可以要那些减少往返的机制,但两者不能兼得。OpenAI 的 Structured Outputs 公告写明结构化输出与并行函数调用不兼容,并建议设 parallel_tool_calls: false 来换取那份保证——注意这个开关默认为 true,而把它设为 false 意味着每个回合恰好零次或一次工具调用。Anthropic 为程序化调用列出的那份排除清单,是同一笔交易换了个位置。先决定你买的是哪一份保证,再去写假定了它的工具。
步骤 4测量说了什么,又没说什么。
诱惑在于把「更少往返」读成「准确率更差、账单更便宜」。2026 年 8 月的一篇 arXiv 研究(The Bitter Lesson of Tool Calling,arXiv:2608.06370)在 14 个模型上测了 BFCL v4 的一个 309 条子集、以带类型的 Python 存根作为工具接口,发现程序化调用在 14 个模型中的 11 个上追平或胜过原生 JSON 调用,其中 GPT-5.6 系列高出 JSON 基线 10.6%,而在并行扇出条件下是 14 个中的 13 个。
请把那些前提条件读完,因为它们才是有用的部分。作者指出,BFCL v4 的回显式存根意味着该基准衡量的是参数序列化、而不是端到端的工具使用正确性;在链式消融实验中,程序化调用用掉了 JSON 的 1.5× 输入 token;而各项消融的样本量只有 31 至 52 条,所以只有跨模型的那个规律是可靠的。所以:代码模式在这两个轴上都不是白送的胜利,而这里的一个基准分数并不是一项关于你工具的宣称。
你能从中带走的是这个决定的形状。往返次数主导延迟与对话记录的膨胀;而记录每一步都要重发一次,所以一条被压进单个回合的链,在它省掉的那些步上是一笔平方级的成本节省,而在它留下的那个回合上是一笔输入 token 的溢价。三条经验法则:
- 工具少、风险高,就用 strict 模式。一个支付或数据库工具,参数畸形就等于一次事故:拿下那份语法保证,多出来的往返就认了。
- 长的确定性链、批量数据,就用程序化调用。对几百条记录做取数—过滤—聚合:中间结果根本不必进入对话记录。
- 目录大、使用稀疏,就用工具检索。五十个工具里任何一次运行只碰三个:上它,并且去测提示词的前后变化,而不是凭假设。
步骤 5安全规则与机制无关——其中一条反而更难了。
模型产出的工具参数是不受信输入。模型可能出错,也可能被检索内容或工具返回内容里的提示词注入所操纵。请把每一次工具调用都当作互联网上某个陌生人把那个请求发给了你的函数——因为通过被注入的内容,实际上确实有人这么做了。
- 执行前先校验。在代码里对着模式以及你自己的业务规则重新检查参数。绝不要把模型输出直接传进 shell、SQL 字符串或文件系统路径。注意
strict: true只是把这项工作变窄、而没有取消它:一个符合模式的order_id仍然可能属于另一个租户。 - 最小权限。暴露能干成这件事的最窄工具:带服务端上限的
refund_order(order_id, amount),而不是run_arbitrary_sql。 - 给不可逆动作设闸。删除、支付、发送——要求明确确认。提示词被操纵时,能力边界仍然成立;而一句「要小心」的话不成立(影响半径)。
- 把错误当数据返回。把一个结构化错误作为工具结果发回去,让模型可以作出反应(「那个用户不存在」),而不是让循环崩掉。
- 让工具幂等。循环可能重试;一次被重试的
charge_card绝不能重复扣款。
变难的那条规则是审查。用普通 JSON 调用时,你的审批闸门看到的是一个工具名和它的参数——一件可供审查的东西。用程序化调用时,它看到的是一段程序,而「批准这段代码」严格弱于「批准这笔 4000 美元的付款」,因为有意思的行为在往下三行的一个分支里。如果你在一个有人类审批的界面上采用代码模式,请把闸门设在容器内部的效果上,而不是设在生成的源码上。
从普通 JSON 工具使用加一层校验开始;它是唯一每个模型都支持的机制,也是唯一你能读懂其失败的机制。然后基于你实测到的某个数字,只做一处改动:给「参数畸形即事故」的那些工具加上 strict: true;当工具定义占到提示词约十分之一以上时打开工具检索;而只有当一条链正让你花掉五次往返时,才去动程序化调用。换机制就是换保证——所以一次只换一样,并且把那个告诉你该换的评测留着。
相关:结构化输出讲同一套 JSON 成形机制指向最终答案时的样子,工具调用厂商矩阵讲逐项特性差异,塑造工具结果讲该返回什么,而MCP讲如何让这一整套可移植。