运维 / 经济性与投资回报
经济性与投资回报
智能体的单位经济性——定价、成本归因、ROI 度量、自建对外购、失败模式。
- 自建 vs 采购 vs 编排六个最大的智能体框架里有五个以 MIT 或 Apache-2.0 发布,而 OpenAI 将在 2026 年 11 月 30 日下线自家的可视化 Agent Builder、转而推荐它的 SDK——于是「自建」已不再意味着写那个回路:运行时每 vCPU 小时 0.085 美元,而按席位的价格(Copilot Business 每月 19 美元含 1,900 个每个一分钱的额度、M365 Copilot 30 美元)如今是地板而不是账单,因为产品改按结果计量了——一次解决 0.99 美元,一次动作 0.10 美元。仍然买不到的,是评测集、标注与校验器。而贬值速率并非常数:一项能力还新的时候每季度便宜 66%,两年之后只有 32%——所以这一层从来不会经过一个「自建划算」的窗口。
- 智能体单位经济学每成功任务成本是对的那个单位,而你算出来的数字,好坏只等于那个判定「什么算成功」的判定器——一个假阳性率 8% 的裁判会把这个单位系统性地、朝着错误方向撬动 4%,比多数人一个季度真正落地的 token 节省都多。人工标注 300 次尝试会留下 ±5 个百分点的区间,让 0.74 美元的单位变成 0.69–0.80 美元的区间,所以请把点估计、区间与判定器一起公布,把上报、评测、漏出的错误与常备账单都装进分子,并按 p95 做承保。
- 按客户的单位经济模型整盘的单位经济模型会把哪些客户亏钱遮起来——按租户的成本视图、什么造就长尾用户,以及你手上真正能用的杠杆。
- 成本归因与预算一个估算出来的成本带着的那种误差,会把你的功能排错序:同一段 8,000 token 的前缀,冷启动按 1.25 倍缓存写入价要 10,000 单位、热读按 0.1 倍只要 800,于是繁忙的功能被高估十倍、清闲的被低估五分之一——而你砍掉的恰是便宜那个。请记录供应方返回的 usage 对象,而不是你分词器的估算,因为缓存状态、推理 token 与下游重试,从你发出去的任何东西都重建不出来。然后存计数而不是金额、每月与账单对账并公布差额、把模型与 effort 设置也记成维度,并把预算做成请求路径上的一个计数器,配一个按速度触发的断路器。
- 衡量智能体投资回报麦肯锡 2026 年 8 月 25 日的调查发现,37% 的企业报告了正面的 EBIT 影响——一年未动,而同期大型企业铺开智能体的比例从 27% 升到 40%。稀缺的是度量:MIT 那个 95% 是被当成失败统计来读的度量统计,而基线在你上线那天就不再可观测。同一个季度算出来是 +6.0% 还是 −26.9%,只差一个数——你上线前没有记下来的那个拦截率。
- 智能体产品的定价与打包每一种智能体定价,都是在决定成本波动由谁来扛:席位定价把它留给厂商,而 5% 的重度用户长尾就能吃掉一半以上的成本;用量定价把它交给买方,Cursor 在 2025 年的改价就是例证;结果定价则让「已解决」的定义成为真正的合同。
- 经济性在何处崩溃这里每一处翻转动的都是分母,而每 token 成本纹丝不动;而最大的那个乘数来自没人选过的默认值:openai-python 与 anthropic-sdk-python 都出厂带 DEFAULT_MAX_RETRIES = 2,而 Temporal 重试 Activity 时最大尝试次数是无限。升级率的盈亏平衡点,就是「全人工平均任务时长」除以「被升级任务时长」——token 账单压根不出现在里面,这正是为什么换个更便宜的模型并不算回应。请按 p99 去量「每个被接受的产出的成本」。
- 预置吞吐量与容量承诺打七折意味着要在 70% 的持续利用率上才打平,而突发式的智能体流量从来到不了那里——所以预留容量是一份你能摆到客户面前的延迟保证,而不是一笔节省;而一份期限承诺会在一个按季度移动的市场里悄悄冻住你的模型选择。
- 评测的成本评测开销随变更速率而非流量增长,而它的价格由你坚持要抓到的最小回归决定——这个价格按平方增长:两个百分点的阈值大约要买 7,700 次运行,五个百分点只要 1,400 次。
- 人工复核的成本复核者的成本是 token 的十到五十倍,而且这是唯一一条不会因为智能体变好而缩小的开销——因为复核者连正确的输出也得读;唯一能消掉它的,是经过校准的选择性复核。
- 收缩一次智能体部署上个季度,接近半数的企业负责人因成本砍了智能体部署,而"收缩、收窄、推迟或暂停"是同一件钝器的四个名字——在同一个部署内部,一条工作流能把人工基线甩开 55 倍,另一条却每跑一次都在亏,所以要切的是任务类;在给这个类定罪之前先把长尾切出去,并把恢复条件写成一个数字。
- 免费额度与试用经济学SaaS 的免费额度由人类的无聊封顶;智能体的免费额度没有封顶,因为用户是一个循环、而边际成本是真的——所以按单个账号能消耗的上限而非平均值来定价,计量工作量而不是天数或席位,并在请求时刻而不是月度复盘里强制那道天花板。
- 预测智能体开销智能体的每任务成本是重尾的,于是均值什么也预测不了且系统性偏低——规模越大越糟,因为用量越大抽到的长尾越多。要预测一个跨任务类的求和、各类带上自己的 p95,给每一类封顶好让长尾有一个有限的数,用重试率、上下文膨胀、路由组合与缓存命中率来驱动它,并每个月把误差对账为用量、组合与每任务漂移。
- 价格通缩与每任务成本前沿模型的输入令牌大约只要 GPT-4 在 2023 年价格的六分之一,一个够用的便宜模型更只要三百分之一,可几乎没人的智能体因此便宜了六倍——因为智能体式工作流烧掉的令牌是一次对话补全的 5–30 倍。通缩落在了一个你并不购买的单位上——于是抠令牌成了一份会折旧的资产,期限承诺成了一次逆着三年趋势的方向性下注,而每成功任务成本是唯一值得摆上仪表盘的那条线。
- 出错的代价令牌账单你能读到小数点后四位,错误账单却从没人算过,而在多数部署里后者要大出一到两个数量级——所以把它定价成错误率、漏网率、单次补救成本与放大系数的乘积,单位成本从你已经经历过的事故里取,并留意检测时延是一个你可以花钱压下去的乘数。得出的那个数字,正是逐动作定自主等级的依据,也终于诚实地给一名复核者标出了价钱。
- 固定成本与试点税智能体的经济性被建模成纯可变成本,于是试点把一笔大头是常备账单的总额——索引、评估套件、追踪留存、容量下限、复核排班、值班——除以一个很小的任务数,报出一个完全说明不了这个智能体的数字。把六条固定成本线点出名字,注意它们是阶梯式跳动的、由审计与厂商下线而非流量触发,并拿盈亏平衡量去汇报,而不是每任务成本。
- 给延迟定价在一个阻塞着时薪 60 美元员工的任务上,40 秒的 p50 要花 0.67 美元,而令牌账单是四分钱——于是那个跑得慢一倍的「更便宜的模型」,是一次披着折扣外衣的十六倍成本上涨。这笔成本是凸的——一秒以内近乎免费,到十秒为止是线性的,在那之后人切换到别处去时是一级台阶——所以拿 p95 做预算,花钱之前先把每个部署归进四种情形之一,并留意:根本不削减任何延迟的流式输出,往往是这份清单上最大的一笔美元收益。
- 碎片化的时间节省四十个人每天各省二十分钟,在电子表格上是十三个全职当量,在任何人管得着的预算里是零美元——因为五分之一个人不是一条你能砍掉的费用项。被释放出来的产能只有在解除了那个真正卡住产出的约束时才会变成钱,而那恰好只有四种可审计的形态:被吸收的增长、挂着价码的周期时间、省下的外部支出、一个有编号的推迟招聘。与此同时成本那一侧同样是碎片化的,却只有一侧上了仪表——所以把「工时 × 时薪」那一行删掉,看看还剩下什么。
- 每次运行的能耗与碳排已发布的、针对单条文本提示的能耗数字从 0.10 Wh 铺到 14.6 Wh,而同一篇论文把同一条中位数提示算成「只数活跃加速器 0.10 Wh、把周围服务栈数进来 0.24 Wh」,所以你发布的每一个数字在成为测量之前先是一次边界选择——而所有公开数字量的都是单轮聊天,智能体会把它乘上十到四十倍。请以「每个已完成任务多少瓦时」来汇报并把边界写明,用你自己追踪里的每次运行词元数除以成功率搭出它,把基于地点与基于市场的碳排并排给出,并注意:排在最前面的四根杠杆打的都是那个乘数,而「换个更小的模型」排在最后。
- 更少的 token vs 更便宜的 token一个少写三倍 token 的模型,和一个每 token 便宜三倍的模型,在价目表上是同一笔折扣,在一个二十步的循环里却差得远:降价兑现完整的 3 倍,简洁只兑现约 1.7 倍——因为一个生成出来的 token 要按输出价计费一次,之后每一步再作为输入被计费一次,而固定前缀与工具返回结果对两者都不会变小。决定该买哪根杠杆的只有一个数字:你这份账单里由模型自己的书写所支配的占比;而在那个算例中,提示缓存会把它从 0.63 抬到 0.79——这正是「缓存才是让一个惜字如金的模型值得溢价的东西」的原因。
- 分词器变更与你的成本基线20% 的降价配上一个「同样文本多出约 30% token」的分词器,净结果是涨价 4%:按 2026 年 10 月的标价,Opus 4.6 到 Opus 5.5 读起来是降价,落地却接近打平,而 Opus 4.7 到 Opus 5.5 是同样的降幅并且真的兑现了。token 是厂商定义的单位,所以这次变更还在没有任何一次发布的情况下重新缩放了上下文容量(文字少装约 23%)、TPM 限额、max_tokens 上限与按长度计价的阈值。请测出你自己按内容类别的比值、上报每个完成任务的成本,并把价格变化与单位变化分开报。
- 按额度计费的智能体产品没有与货币挂钩的额度不是价格,而是供应商可以随时重设、却不必碰价目表的汇率。Notion 在 2026 年 10 月的重做给 Business 与 Enterprise 席位每月 1,500 个路由额度加 500 个自选额度,不结转、不共享池、不公布换算率——而决定你这次任务烧掉多少额度的是它自己的路由器,于是单价与数量都由供货方说了算。GitHub 在 2026 年 6 月 1 日走了反方向,把 1 个 AI Credit 钉在 1 美分上。请用自己的真实流量测「每完成一次任务消耗多少额度」,按每个席位自己的峰值而不是团队平均值配额,并以书面形式问清:什么会改变这个数字,以及会不会先通知你。
- 「看一眼」的每步成本一张截图耗费 ceil(宽/28) x ceil(高/28) 个视觉 token——在推荐的 1024x768 下是 1,036 个,在文档上限处是 4,784 个——而智能体循环会把它反复重发,所以一次 40 步的任务付的是 820 次图像读取,而不是 40 次。给只追加的对话记录做缓存,能把那个平方变回一条直线,值 6.4 倍;把画幅降到 1024x768 值 2.6 倍;把模型输入价砍半值 2 倍;而在一个已工作的缓存之上再裁到最后三帧只值 1.09 倍,却毁掉了那个付清了一切的缓存。请用「对你即将点下去的那块区域做一次 zoom」(1,201 个 token)来买细节,而不是用一个更大的画幅(4,784 个)。
- 一分钟语音的成本语音是唯一按挂钟计费的智能体工作负载,同一秒会被运营商、平台、STT 与 TTS 并行计量,而令牌那一行——唯一人人都在优化的——在一通四分钟通话的算例里只占约 4%。于是二十个轮次上 700 ms 的端点检测定时器,花得比整块模型账单还多;而 τ-Entity 那套确认脚手架多出的 21–28 秒,只要七十通里挡掉一次采集失败就回本。请管理每已解决通话成本:十五个百分点的自助完成率,约等于把你付的每一项费率砍半的三倍。
- 一个闲着的智能体要花多少钱一次运行一旦活得比单个请求更久,账单衡量的就是被占住的资源而不是做完的活,而最长的那次占用是一个没人算过成本的人工审批:一个 2 vCPU / 4 GiB 沙箱熬过四小时审核,每次运行要为"什么也没干"付掉约 0.66 美元,约为模型花费的十三倍。各家服务商在"闲置到底计不计费"上并不相同,所以你真正买下的是闲置政策而不是每 vCPU 的费率——请让等待成为运行的状态而不是机器的状态,并把被占住的秒数单独计量,否则你永远看不见这一项。
- 上下文阈值之上的价格悬崖长上下文的定价是阶跃函数而不是斜线,而这级台阶为整个请求、而非超出部分选定费率:截至 2026 年 11 月,Gemini 3.1 Pro 预览版对 200K 以下的输入按每百万 token 2 美元计费、以上按 4 美元,输出从 12 美元到 18 美元——于是一次 205K 的请求比一次 200K 的贵 108%。你为省钱加上的那段缓存前缀同样计入阈值,而它自己的费率也翻倍(0.20 到 0.40 美元),这让一段 180K 的缓存成为长期停在悬崖九成高度处的仓位。削掉 3% 的工具输出就能把一次调用砍半——所以请把请求体积压到阈值之下、让压缩在价格边而不是窗口的某个比例处触发,并把每个模型的阈值记成元数据:各家不同,而且会变。