智能体框架与编排:从概念看版图。
本条目从它们解决什么问题而非 API 教程的层面,绘制框架与编排层——LangChain、LlamaIndex、提供方的智能体 SDK,以及更广的类别。读完后,你将能推断自己是否需要框架、某个工具属于哪个类别,以及在具体库此起彼伏时什么仍然成立。
框架到底是干什么的。
调用一个模型 API 只是几行代码。智能体系统的难点全在那次调用周围:管理多步循环、接好工具并校验其参数、组装与裁剪上下文、检索、持久化记忆、重试与错误处理、流式、追踪与评测。框架是针对其中某个子集的一套预制抽象。它不给模型新能力——它管理管道,免得你每个项目重建。
诚实的基线:对一个简单的单步或短循环应用,在裸 API 之上写一层你自己的薄代码,往往比任何框架都更清晰、更易调试、活动部件更少。框架是在编排确实变复杂时才赚回成本的。"我到底需不需要"是个正当的首问,不是异端。
看类别,不看品牌。
具体库翻搅得快;类别是稳定的。把你遇到的任何工具归入其一。
通用智能体/编排框架
把模型调用、工具、记忆与控制流串成智能体与多智能体系统的宽口径工具箱。LangChain(连同其基于图的编排伴侣)最广为人知;此领域的其他框架提供多智能体角色抽象或更底层的可组合性。当你有复杂、分支、有状态的工作流,且想要电池全包的构件加一个集成生态时,它们最有价值。
数据/检索为中心的框架
LlamaIndex 是典型例子:重心是把模型连到你的数据——摄取、索引、检索与检索增强生成——智能体特性围绕这个内核构建。当你的问题本质是"在我的文档/知识上作答"而非"跑一个长的自治循环"时,取用这一类别。
提供方/第一方智能体 SDK
模型提供方发布自家更轻量的智能体 SDK 与工具/循环原语,与其 API 特性(工具使用、结构化输出、推理控制)紧密对齐。它们把与模型的抽象距离压到最小、紧跟提供方特性,代价是带提供方风味。
横切基础设施
可观测/追踪、评测、提示管理与网关是补充任何框架的另一层。还有新兴的互操作标准,用于把模型连到工具与其他智能体——越来越成为框架在其上构建而非重造的基底。(协议在深入篇讨论。)
如何不被炒作影响地评估一个框架。
- 抽象税。每一个你不需要的抽象,都是要学、要调、在不合用时还要绕过的一层。偏好其抽象匹配你实际控制流的框架。
- 逃生口。当框架的路径不对时,你能落到裸模型调用吗?没有干净逃生口的框架会变成天花板。
- 可观测性。多步智能体以不显眼的方式失败。对每一步、每个提示、每次工具调用的一等追踪,在生产规模上不是可选项。
- 锁定面。换框架或换底层模型需要改动多少代码?让这个面小而显式。
- 成熟度 vs 翻搅。这一层比模型层动得快。API 在版本间会破。锁版本,并为迁移留预算。
采用框架并不为智能体去风险——它把风险挪进了一个比你的模型提供方动得还快的依赖里。智能体的可靠性来自它的评测体系与控制流设计,而非来自哪个框架包住了模型调用。
持久的要点。
框架是加速剂,不是架构。决定你的智能体能否工作的决策——循环长什么样、上下文如何管理、工具如何校验、你如何评测——不论用哪个库都是你的。选能去掉真实管道(否则你要手写)的最轻工具,让模型调用与你的控制流可检查,并把框架当作可替换的。能跨越翻搅持续高效的团队,是那些让架构独立于任何单一框架世界观的团队。