Stripe 买下的是计量器,不是路由器
一家支付公司为「负责数 AI 用量」的那一层付出了据报道 70 亿美元,而就在七个月前,它刚买下负责为这些用量开票的那一层。稀缺的从来不是路由能力,而是一份归一化的记录:每一次模型调用花了多少、算在谁头上。如果这份记录住在你的请求路径里,你就要为智能体走的每一步付一笔百分比。
一家支付公司为「负责数 AI 用量」的那一层付出了据报道 70 亿美元,而就在七个月前,它刚买下负责为这些用量开票的那一层。稀缺的从来不是路由能力,而是一份归一化的记录:每一次模型调用花了多少、算在谁头上。如果这份记录住在你的请求路径里,你就要为智能体走的每一步付一笔百分比。
这四家宣称的首字节音频时延在 40 到 200 毫秒之间,而独立测试台量到的云端中位数是 188 到 313 毫秒——但真正毁掉一通电话的是离散度而不是中位数,其中一家的抖动接近另一家的四倍。价格在这片市场里相差约 2.5 倍,而它两个都预测不了。长尾是用部署方式买来的。
这四家把一次搜索定在每千次 1 到 16 美元之间,而这道价差不是毛利——它是各自在检索流水线上读到多深。改用"一整个研究回合"而不是"一次调用"来计价,排序就会翻转:价目表最便宜的那个,跑出来的回合成本是最贵那个的三倍。
标准价是每百万 token 1.50/7.50 美元,与 3.6 Flash 早已挂出的价格分毫不差。8 月 13 日发布的,是同一挂牌价下的一个更好的模型,外加一份 12 月 31 日到期的折扣——一次日期已知的单位成本翻倍,而它会落在你趁便宜时调出来的那些轨迹上。
聊天产品要有好几百个并发用户,专用 GPU 才划得过按 token 计价;智能体只需要十来个工作单元,因为它每一步都要把整个上下文重发一遍。真正该决定你在这四家里选谁的,是这道算术题,而不是每百万 token 的单价。
KPMG 发现 49% 的负责人因成本收缩过智能体部署,而只有 7% 有站得住的 ROI 数字——也就是说,做出削减的组织里有九成没有分母。成本由一个需要向你收钱的厂商来计量;价值在有人把它造出来之前一直是零。事后补不上的那项测量,是智能体进场之前的基线。
四家里有两家按每 vCPU 小时约九分钱计费那个智能体循环,两个价格相差 3.6%;另外两家干脆不为它收钱。它们真正在卖的,是一个存放对话的地方——而 AWS 在 2026 年 7 月 30 日把 Bedrock Agents Classic 对新客户关闭,是迄今最清楚的证据:托管运行时的哪一半你租得起。
重排序模型不碰索引、不持状态,换一个只要一个下午——这终于让"追排行榜"变得理性了,只可惜排行榜量的恰恰是这四家差异最小的那条轴。真正差出一个数量级以上的是计费单位和许可证,而这两样在智能体规模下咬得最狠。
换掉 LLM,改的是一段提示词。换掉嵌入模型,要重嵌整个语料、重建索引,并让你手上所有检索数字全部作废——两个模型产出的向量彼此不可比,因此不存在渐进迁移。这让它成为 RAG 栈里唯一一个在锁定状态下做出的选择,而真正定案的数字是每条向量占多少字节、以及模型的生命周期由谁掌控,不是排行榜名次。
这四者的每一份对比,开头都是固定 batch 下的每秒 token 数——而这恰恰是最难迁移到智能体流量上的那个数字:在那里,同一段提示词会带着几百个新 token 回来二十次。真正把它们区分开的,是 KV 缓存以什么为键、受约束解码在满 batch 下还能不能撑住,以及那道构建步骤要吃掉你一个季度里的多少。
每一份文档解析器对比都以准确率排行榜的形式发布,而准确率恰恰是最难迁移到你自己文档上的那个维度。真正能迁移的有两件事:版面流水线会漏掉一个数字,但结构上编不出一个数字;以及自建与托管两条成本曲线,会在一个你五分钟就能算出来的量级上相交。
每一个 AI 网关主打的都是同一个功能:自动故障转移到第二家厂商。那个功能并不是可用性上的胜利——它是一次只在事故期间才被触发的、未经测试的部署,而且落到一个你的评估从未覆盖过的模型上。真正该拿来做选择的是:谁来运维这一跳,因为那才是你没法便宜地反悔的决定。
面向智能体的搜索 API,标价紧紧挤在每千次查询 5–8 美元这个区间,这让标价成了整场比较里最没意思的那个数字。真正相差一个数量级的,是每条结果往你的上下文里灌多少令牌——而在一个每步都重发全部对话记录的智能体循环里,那才是账单。
Moonshot 在 7 月 27 日把 2.8 万亿参数做成了免费下载——同时把自家 API 定价定得高于它所取代的上一代模型,而市面上没有任何一块 GPU 装得下这份权重。开放权重为智能体开发者换来的恰恰只有一样闭源 API 给不了的东西,而那样东西不是成本。
每个编码 Agent 留下的遥测轨迹都不一样:JSONL 记录、SQLite 数据库,或者只有一份纯文本日志。所以你该装哪款开源跟踪器,取决于你的 Agent 走的是哪条轨迹。四款跟踪器,四条轨迹,外加几个真正能压低账单的开关。