每一家把语音合成卖给语音智能体的厂商，都拿首字节音频时延打头阵——而那些页面上的数字（40 毫秒、75 毫秒、低于 90、低于 200）都是实验室条件。对同一批云端接口做独立测量，中位数落在大约 188 到 313 毫秒之间；而决定一通电话像不像人说话的，并不是那个中位数，而是它周围的离散度：本文对比中的一家，中位数更好，抖动却是另一家的四倍。请按长尾来选，而长尾是用部署方式买来的，不是用一个模型名字。
先看全貌
四家都瞄准实时对话智能体的厂商，各自宣称什么，以及各自允许你把它跑在哪里。
| 厂商 | 实时模型 | 宣称的首字节音频时延 | 可以跑在哪里 |
|---|---|---|---|
| ElevenLabs | Flash v2.5 / Turbo v2.5 | 约 75 毫秒（Flash） | 云与 VPC（SageMaker、Vertex）；本地与端侧处于早期开放 |
| Cartesia | Sonic（状态空间架构） | 低于 90 毫秒 | 云、端侧，以及处于早期开放、需七位数承诺额的本地部署 |
| Deepgram | Aura-2 | 低于 200 毫秒 | 云、VPC，以及自托管容器 |
| Rime | Mist v3 / Coda | 约 40 毫秒 p90（自托管 Mist v3） | 云、VPC，以及已正式可用的本地容器 |
请把这些实测数字当作一种形状，而不是一份排行榜：它们是某个时点的、依赖区域与负载的，而这里的每一家都在以月为单位发布新模型。真正重要的是那个形状，而它在今年发布的每一份独立测试里都一致——营销数字是理想条件下达成的下限，真实中位数要高上两到七倍，而按中位数的排序并不是按稳定性的排序。
长尾才是产品
一次语音轮次是一份预算，不是一次跑分。在对方说完之后，大约 300 毫秒的静默就是「这段交流不再像对话」的临界点；而语音合成花掉的是这份预算里的一段——它排在断句判定之后、模型首个令牌之后，又排在多数媒体栈会保持 200 到 400 毫秒的抖动缓冲之前。
正是这种叠加，让四分位距在这里比中位数更要紧。一次落在中位数上的运行，是一通听起来没问题的电话；一次落在 95 分位上的运行，是对方以为线断了而重新开口——而每一次这样的重新开口，就是一次打断、一段被丢弃的回答，以及一个需要修补的轮次。把这片市场里的两种形状放在一起比：中位数 188 毫秒、离散 100 毫秒的模型，会经常交付出比「中位数 264 毫秒、离散 28 毫秒」更糟的轮次，而后者从不让对方感到意外。听者真正感知到的是稳定性——这也正是智能体延迟在别处同样是一门 p95 学问的原因。
由此得出的推论，对那些在定价页首屏上选型的人来说并不好受：中位数是被宣传、被讨论、被跑分的那个数字，而它是错的那个数字。去向厂商要一份在你的并发量、你的区域、连续一周的 p95 与 p99。拿不出来的厂商，其实已经告诉了你一些东西。
打断：你为没人听见的语音付了钱
在真实部署里，被打断是常态而不是边缘情况——来电者会不停地打断智能体，而好的智能体本来就该邀请他们打断。当这件事发生时，管线必须停止播放、清空那段存着几百毫秒音频的缓冲、取消正在进行的合成，并把麦克风交还给轮次接管。由此掉出来两个后果，而没有任何一张对比表会写它们。
第一个是行为上的：在一次被打断的轮次里，你真实的语音合成延迟不是首字节音频时间，而是「从取消到静音」的时间，而决定它的是流式协议。通过已建立的 WebSocket 取消很快；一个必须等响应跑完的 REST 式接入则不快，于是来电者会听见智能体压着自己说话——这是语音产品最具破坏力的单一故障。
第二个是商务上的：按字符计费收的是你提交的文本，而一次被打断的轮次意味着其中一部分文本变成了没人听见的音频。你要不要为它付钱，是一个没有任何跑分会测的合同细节——有的厂商按提交字符计费，有的按取消前已合成的字符计费。在长回答、真实打断率的场景下，这不是零头；它是定价谈判里第一个该问的问题，而不是最后一个。
与其去谈判，不如按它来设计：更短的智能体回合同时更便宜、更易打断、体验也更好。一个说完一句就停的智能体浪费的合成更少、从打断中恢复更快，并且给了来电者一个他真用得上的轮次边界。
价格相差约 2.5 倍，而它什么也预测不了
这四家延迟优先档位的标价挤在一个不宽的区间里——大约每千字符 0.02 到 0.05 美元，用量档位会再削一点，而高保真模型的高级档或多语档则明显更高。放到更大的市场上看，公开价格从每百万字符约 4 美元一路排到 200 美元；在为毫秒争论之前，值得先知道你的供应商落在这个区间的哪一段。
而这道价差预测不了延迟，也预测不了稳定性。这一组里每字符最便宜的那家不是最慢的；最贵的那家既不是最快的，也不是最稳的。价格买到的是音色质量、声音克隆、语种覆盖与韵律控制——它们都是真实的采购，只是不是「延迟」这项采购。如果你的智能体要念地址、订单号和金额，救你的功能是实体感知的文本归一化，而 Deepgram 的 Aura-2 正是主打这个；如果你的产品需要一把在二十种语言里都认得出来的品牌嗓音，那是 ElevenLabs 的地盘，溢价本身就是重点。
在这件事变成争论之前，先拿你自己的流量算一遍：每分钟语音对应的字符数在各家之间大致稳定，所以换算成「每分钟成本」很干净。算到那一步你通常会看到，语音合成只占语音智能体每分钟成本的少数——电话线路、语音识别与模型本身拿走得更多。这是「按长尾延迟与部署方式来选」的好理由，也是「按字符单价来选」的坏理由。
部署方式，才是你真正买下长尾的手段
上面的一切都指向同一个杠杆。网络方差、邻居噪声与区域路由，贡献了云端接口分布里的大部分离散度，而消除它们的办法，是把合成搬到你的媒体服务器旁边。如今这四家都有了某种「非云」答案，所以「有没有本地部署」这个勾选框谁也分不开。真正把它们分开的问题是：那条路能往下够到多深的客户。
- Rime 把自托管做成了默认姿态，而不是给企业客户的让步——本地部署已正式可用，以容器形式交付、跑在你自己的云或裸机上，而公司称其大部分用量正是这样跑的。它宣称的约 40 毫秒 p90 是一个自托管数字，而这才是报这个数的诚实方式。
- Deepgram 多年来一直提供跨云、VPC 与本地的自托管部署，并公布了异常具体的硬件要求——Aura-2 要求每个 TTS 引擎容器恰好两块专用 GPU；这是你在做容量规划之前就该知道的约束，而这种细节程度本身说明这条路被人走熟了。
- Cartesia 的本地部署处于早期开放，需七位数的最低承诺额；另有一条端侧路线，而它的状态空间架构让这条路线格外可信。选项是存在的；它对你是否存在，取决于你的预算。
- ElevenLabs 现在可以通过 SageMaker 与 Vertex 跑在你自己的云里，并于 2026 年 4 月宣布了本地与端侧部署——明确面向那些无法在所需区域采购云基础设施的机构，且以早期开放而非「拉一个容器」的形式交付。这条路存在；它要经过一次销售对话。
所以真正的检验标准不是「这家有没有一个本地部署页面」，而是「你能不能在下个季度就把它跑起来，既不用排早期开放的队，也不用签七位数的承诺」——按这条标准，这片市场是二比二分开的。自托管不是免费的——你要接手 GPU 容量规划、模型升级和一份值班表，正是为智能体自建推理里摆开的那笔交易。它只是唯一一个能把长尾挪动一个数量级、而不是挪动几个百分点的杠杆。
什么情况该选谁
| 场景 | 倾向 | 原因 |
|---|---|---|
| 大话务量的电话场景，延迟就是产品 | Rime 或 Deepgram，自托管 | 把容器放到媒体服务器旁边，能消除主导长尾的那部分网络方差 |
| 受监管、音频不能出网 | Deepgram 或 Rime | 两家今天都提供已正式可用的自托管部署，不必先谈一轮早期开放 |
| 品牌嗓音、多语种，质量就是产品 | ElevenLabs | 溢价买到的是音色库与克隆能力，这里没有别家能对上 |
| 要云端最快的中位数，且有工程能力吸收抖动 | Cartesia | 这一组里实测中位数最好，前提是你的缓冲策略容得下它的离散度 |
| 要朗读标识号、地址与金额 | Deepgram | 实体感知的归一化是正确性功能，不是装饰功能 |
| 端侧或嵌入式 | Cartesia | 那套状态空间架构本就是为此而建的 |
常见问题
为什么实测延迟比宣称值高这么多？
宣称的首字节音频时延通常是在理想条件下、于模型边界处测得的——短文本、热连接、同机房客户端、无负载。而你的数字里包含 TLS 建连或连接池、提供方处的排队、从你所在区域出发的网络传输，以及一个大到足以有用的首个音频块。这些都不算不诚实；它只是意味着，公布的数字是下限，不是预期。
如果中位数最低，100 毫秒的四分位距真的很糟吗？
这完全取决于你的缓冲。如果你的媒体栈本来就压着 300 毫秒的抖动缓冲，落在这个窗口内的离散会被吸收，中位数就赢了。如果你为了追求响应感把缓冲调小了，离散就会原封不动地落进来电者的耳朵里，变成忽长忽短的停顿——此时「中位数更差但分布更紧」才是更好的选择。
我该自己跑一遍基准吗？
该，而且这是一天的活儿，不是一个项目。从你自己的区域出发、按你真实的并发、用你真实的语句长度分布，对每个候选连续跑至少一个完整工作日，并记录首字节音频与「取消到静音」两项的 p50、p95 与 p99。厂商按月换模型；任何已公布的表格——包括这一张——都会过时。
把模型输出流式喂给语音合成，能解决延迟问题吗？
帮助很大，而且它改变了你该测什么。按句子级流式，可以把模型的生成时间藏在第一个已出口的短句后面，于是关键指标变成「首字节音频时延 + 音频块交付的可靠性」，而不是端到端的合成时间。它也让取消变得更难，因为来电者打断时，回答里已经有更多内容在途中了。
语音合成在语音智能体总成本里占多少？
通常是少数。电话分钟数、语音识别，以及对话背后的那个模型，加起来一般更多——这也是为什么字符单价 2.5 倍的差距很少能决定架构。请把整条每分钟成本链一起建模：延迟预算与成本预算，才是一个语音产品真正靠它跑起来的那两个数字。
延伸阅读
本站：
- 语音技术栈——语音识别、模型与语音合成如何合成一次轮次。
- 延迟预算——那 300 毫秒都去了哪儿。
- 轮次接管与打断——打断路径的细节。
- 评估语音智能体——怎么量来电者真正体验到的东西。
- Deepgram vs AssemblyAI vs ElevenLabs vs Speechmatics——这条栈的另一半。