AI 博客

标签: structured-outputs

← 返回 AI 博客

11 分钟读完

Pydantic AI vs OpenAI Agents SDK vs LangChain vs Claude Agent SDK

四者都递给你一个带类型的对象,而四者对「模型的答案装不进这个类型时会怎样」的看法都不一样。Pydantic AI 把校验错误喂回去、在预算内重试;OpenAI Agents SDK 默认抛异常;而在 LangChain 的 create_agent 里,重试处理器作用于 ToolStrategy,可一个裸的 Pydantic 模型会自动选中那条不重试的 provider 路径——于是最顺手的那种声明方式,恰恰是会放弃的那一种。你继承到的是哪个默认值,决定了你那条坏输出的长尾落在异常处理器里、落在你的 token 账单上,还是落在用户面前。

14 分钟读完

Jev 和它的快速跟进者,卖的是一个没人量过的概率

Jev、OpenAI Decisions、Cloudflare Clef 和 Perplexity 的 pplx-decider 都保证答案合法——约束解码也能做到——于是它们真正新卖的只剩那个经过校准的概率。截至 2026 年 10 月,没有一家厂商公布过它们在本职任务上的校准数据;而你用自己的标注数据定下的阈值,同时决定了错误率和账单。

15 分钟读完

Ollama、LM Studio、llama.cpp 与 MLX:差别全在那一次工具调用上

四个本地运行时、同一份权重,进去的是四份不同的提示词,出来的是「工具调用到底解析没解析出来」的四种答案。这些都与吞吐无关,而吞吐是唯一被拿来比较的那根轴。

10 分钟读完

Outlines、XGrammar、llguidance 与 Instructor:合法 JSON 从来不是难的那一部分

这四者中有三个约束采样器,让非法输出根本产生不出来,而它们之间的选择坍缩成一个问题:你的 schema 会重复吗?第四个做的是另一类事,也是唯一能强制那些真正搞垮智能体的规则的——因为语法只保证枚举值是五个当中的一个,却对"是哪一个"只字不提。