智能体框架与编排

E6
概念 · AI 模型与工具生态

智能体框架与编排。

按抽象是否优雅去挑框架,你就会在唯一那个「一周之内就能换掉」的部分上纠结到底。各家的循环已经收敛——维护着其中最大那一个的 LangChain,如今把这个领域描述为「数百个共用同一套核心抽象的框架」——所以真正把你绑住的那个决定,是可插入面:你能不能在模型做出决定与工具真正执行之间把循环停下来,去索取一次审批、检查一条策略、带上一个来源标签,或者把状态存下来、明天再续。那是你无法事后补上的部分,也是 LangChain 的 1.0 为什么是围着中间件、而不是围着更好的链条重建的原因。

步骤 1循环已经是商品。在开始挑之前先把这句话说出来。

调用一个模型 API 只是几行代码。智能体系统的难点全在那次调用周围:多步循环、接好工具并校验其参数、组装与裁剪上下文、检索、记忆、重试、流式、追踪与评测。框架是对其中某个子集的一套预制抽象。它不给模型新能力,而在 2026 年,它也不给你一个别人没有的循环。

这种收敛不是传闻,它是厂商自己的立场。LangChain 1.0 于 2025 年 10 月 22 日发布,把自己的 API 面收拢进单一的 create_agent 入口,把遗留的链条挪进独立的 langchain-classic 包,并在归档了独立适配器之后把 MCP 支持收进自己的命名空间。被替换掉的那个函数叫 create_react_agent,而它实现的那个模式——推理、调用工具、读取结果、重复——正是每一个竞争者都在出货的那一个,本站把它记在 ReAct 模式。当市场领导者的头条特性是「在同一个循环上做一套更小的 API」时,循环就已经不再是产品了。

所以请保留本页旧版开头的那条诚实基线。对一个单步或短循环的应用,在裸 API 之上写一层你自己的薄代码,往往比任何框架都更清晰、更易调试、活动部件更少;几百行就能给你一个带重试的工具调用循环。「我到底需不需要一个?」仍然是个正当的首问——而首先,并不是每个任务都需要智能体。变了的是「需要」的理由。它不再是「他们替我把循环写了」,而是下面那几段。

步骤 2你真正在挑的东西:你能在决定与动作之间的哪个位置插进去。

一个智能体恰好在一个瞬间既危险又昂贵:模型已经决定要调用某个工具,而工具还没有运行。你在第一次生产评审上会被问到的一切都住在那条边界上,而一个框架要么让你占住它,要么不让。

  • 审批。在写操作之前暂停,把确切的参数展示给人看,并接受「通过、改写、拒绝」——而不只是「是或否」。LangChain 1.0 正是把这一项做成中间件,因为「能改写这次调用」才是团队需要的那部分;其设计空间在 审批与确认 UX。
  • 对参数的策略。每一次都针对真实参数做出决定,由模型说服不动的代码来做:以代码表达的智能体策略。写进系统提示里的一条拒绝不是这个。
  • 来源。一个标签,说明上下文现在含有攻击者可控的文本,并活过此后每一步,好让出口工具可以拒绝——上下文污染追踪。这一项几乎不可能事后补,因为它必须被穿进循环的状态里。
  • 预算与终止。一个步数上限和一个 token 上限,让运行停下来并交回部分成果,而不是继续打转——规划与终止 与 智能体成本控制。
  • 追踪。每一条提示、工具调用与结果都作为结构化 span 发出,而不用你自己写埋点:智能体可观测性。

用一件事去测一个候选,在你下注之前把它写出来:给某一个破坏性工具加一道审批门,人可以在门前改写参数,之后运行从暂停处继续。如果那是一个有文档的钩子,你已经找到了你的框架。如果那意味着包一层工具、自己维护一个队列、并在恢复时重建状态,那么这个框架的循环是一个封闭的盒子,而你将要和它搏斗一年。这类钩子在编码类框架内部与哪些机制竞争,摊开在 技能、子智能体、MCP 还是钩子。

采用一个框架并不会给智能体去风险——它把风险搬进了一个比你的模型提供方动得更快的依赖里。可靠性来自评测体系与控制流设计,而不是来自哪个库包住了那次模型调用。框架真正能给你的,是一个被认可的、用来插入这些控制的位置;而那值得作为选择的依据。

步骤 3第二个你无法回退的选择:循环的状态住在哪里。

可插入面决定你能造什么。状态边界决定你能离开什么。三种安排,按「有多难撤回」递增排列:

  • 在你的进程里。循环跑在你的请求处理器里,会话住在你的数据库里。最简单,而进程一死智能体就死。对一分钟内结束的运行完全够用。
  • 在一个持久化执行引擎里。循环变成一个工作流,每一步都记入日志,于是它能活过一次部署、一次崩溃,以及一次为等人审批而等的三天。正是这种安排让「为审批而暂停」变得可行,而它是 持久化执行 与 持久状态与可恢复性 的主题。顺带注意,LangChain 自己在 1.0 里的说法是:create_agent 底下跑的是 LangGraph 的持久化运行时上的 ReAct 循环——库与引擎是作为一个答案一起出货的。
  • 在厂商的托管运行时里。计算、循环、工具网关、身份代理与会话存储被打包卖在一起。前四项是可替换的;存储是那个难以离开的,这正是 托管智能体运行时 的论点,以及 退出一个托管智能体运行时 里的迁移成本。

诚实地给这两个决定排序。换库是在胶水代码上花几天;换状态住在哪里,是把所有读它的东西重写一遍。所以请从「你的运行持续多久、人要多频繁地进到里面」去定下状态安排,然后挑一个在那种安排里待得舒服的库——而不是反过来。

步骤 4截至 2026 年 10 月的版图,以及选定一个的五个问题。

把你遇到的任何工具归入四个类别之一;品牌翻搅得快,而类别已经稳定了两年。

  • 通用编排。底下带 LangGraph 的 LangChain 是最大的生态,也是分支多、有状态的 Python 工作的常见默认;CrewAI 以「角色与团队」抽象领跑多智能体场景。Mastra 是 TypeScript 这边的共识答案,而且在积极迭代——其 core 在 2026 年 10 月 11 日为 1.76.0;而当类型安全与小而清爽的 API 面比集成广度更重要时,选 Pydantic AI。
  • 以检索为中心。LlamaIndex 仍是原型:重心是把模型接到你的文档上,智能体特性围着摄取、索引与检索来建。当问题是「在我的语料上回答」而不是「跑一个长的自主循环」时,伸手去拿这一类。
  • 提供方 SDK。OpenAI 的 Agents SDK 与 Google 的 ADK——后者还不满一岁——紧跟自家平台的工具使用、结构化输出与推理特性,在你与模型之间的抽象最少。离 API 最近,提供方的味道最浓。
  • 横切基础设施。追踪、评测、提示管理与网关是与上述任何一类互补的另一层,互操作底座也是——工具侧的 MCP,如今各框架是在它之上搭建,而不是重新发明。

然后按这个顺序问五个问题,并留意只有前两个真正关于框架本身:

  • 我能插进去吗?STEP 2 里的审批门测试。这一条不过,就到此为止。
  • 有没有逃生门?当框架的路线走错时,你能不能掉到裸模型调用?没有逃生门,抽象就会变成天花板。
  • 它合不合我的状态安排?依 STEP 3,而且要在挑库之前定下来。
  • 抽象税有多高?每一层你不需要的东西,都是要去学、去调、以及在它不合身时去绕开的一层。优先选那些概念与你真实控制流相符的框架。
  • 锁定面有多大?要换掉框架或换掉模型,你有多少代码要改?把模型调用与控制流保持为可检视的,并锁定版本——这一层在不同版本之间崩坏的速度,仍然比模型层快。

在你采用任何东西之前,花一个下午把同一个小智能体造两遍——一遍用框架,一遍用裸 API——并让两遍都能为「人来改写一次工具调用」而暂停、然后继续。如果第二项要求只是一个钩子、而不是一个周末,这个框架就挣到了它的位置。如果不是,你就学到了:它替你拿掉的那部分管道,不是你需要的那部分管道——而这是这一层技术栈里能买到的最便宜的一课。

相关:智能体循环(每个框架都在实现的那个东西)、智能体框架(harness)(为什么你自己拥有的那一半决定了结果)、智能体评测(真正让一个智能体可靠的那件事),以及 LangGraph vs CrewAI vs OpenAI Agents SDK vs Google ADK 与 Mastra vs LangGraph.js vs VoltAgent vs AI SDK 两篇四方对比(Python 与 TypeScript 两边的当前战况)。