语音正在成为大多数智能体停留时间最长的界面,而四个平台对"如何把语音、语言与工具调用拧成一次往返"给出了架构上截然相反的押注。选谁,关键不在 TTS 音质,而在于你究竟想掌控音频通路、模型,还是仅仅是提示词。ElevenLabs 卖嗓子,再租你一圈对话循环;Vapi 把整条 STT-LLM-TTS 流水线作为可编程栈暴露给你;Retell 直接交付一个开箱即用的呼叫中心智能体;OpenAI 的 gpt-realtime 则把整条流水线折叠进一个音频原生的单一模型。截至 2026 年 6 月下旬,选哪一个,等于在选你想拥有这条栈中的哪一层。
速览
四个平台,对同一个问题给出四个答案:你的应用住在语音栈的哪一层?下表先给出基本面;柱状图与特性矩阵展示各自最重的下注方向。
| 平台 | 路线 | 是否可自托管 | 延迟特征 |
|---|---|---|---|
| ElevenLabs Conversational AI | TTS 优先的托管型智能体,可插拔 LLM,自家 TTS 固定不换 | 否——托管 SaaS | 亚秒级单轮响应,主要瓶颈在外部 LLM 这一跳 |
| Vapi | 在你自选的 STT / LLM / TTS 之上做编排 | 否(云端)——SDK 部分开源 | 亚秒级,由你接入的最慢一家提供商决定 |
| Retell AI | 端到端语音智能体平台,自带轮次管理 | 否——托管 SaaS | 亚秒级,专为高并发呼叫中心负载调优 |
OpenAI gpt-realtime |
音频原生单一模型——语音进、语音出,没有流水线 | 否——仅 API | 四者中最低;无 STT/TTS 跳数,仅一次模型往返 |
快照时间:2026-06-23。托管语音服务的延迟与定价变动很快——在估算部署规模前,请以各家厂商的当前文档为准。
ElevenLabs Conversational AI
TTS 级音质就是护城河
ElevenLabs 是从语音栈的顶层进入语音智能体赛道的:一套 TTS 引擎与声音克隆生态,多年来都在打磨韵律、呼吸与情感语调。Conversational AI 把对话循环螺接在这台引擎之上。如果你在自建与外购之间的决定性因素是"机器人听起来像不像人",那么这家平台的护城河恰好对准了这个问题。声音克隆、多语种覆盖以及成熟的精选音色库都是产品本身的一部分,而不是另一条需要单独集成的链路。
可插拔的 LLM,固定的 TTS
模型层是可配置的:你可以让 Conversational AI 指向 gpt-4o、某个 Claude 模型、Gemini,或一个挂在 OpenAI 兼容端点后的开源权重模型。TTS 层则不行——你用的就是 ElevenLabs 的音色,这正是产品的全部意义。这种不对称把 Vapi 的姿态反了过来:在 ElevenLabs,你为了质量或成本去换大脑;在 Vapi,你可以换任意一层;而在 gpt-realtime,你什么都换不了。
内置知识库与工具调用
Conversational AI 自带托管知识库(上传 PDF、URL 或文本),并提供一套工具调用接口,让所配置的 LLM 在对话中途调用你的 webhook。要做一个嵌入网页、基于产品文档作答的语音助手,你可以在不写任何编排层的情况下让一个能用的智能体跑起来——知识检索、函数调用 schema 与音频通路全是厂商的事。代价是托管产品惯有的那一项:你的知识库与通话转写都落在 ElevenLabs 的边界之内,对任何有数据驻留要求的部署而言,这一点至关重要。
Vapi
编排优先的架构
Vapi 把语音视作要被组装的栈,而非要被消费的服务。你挑一家语音转文字提供商、一个 LLM 和一家 TTS 提供商,Vapi 跑那个编排器,在它们之间流式传输音频、管理轮次、处理打断,并把结果接到一个电话号码或一个网页客户端上。这种框架更接近"自建语音运行时"而非"成品"——这既是它的吸引力所在,也是它运维负担的来源。
可插拔的 STT / LLM / TTS 栈
每一层都是一个配置项。转写用 Deepgram、AssemblyAI 或 Whisper;推理用 gpt-4o、Claude、Gemini 或某个开源模型;TTS 用 ElevenLabs、Azure、PlayHT 或 Cartesia。对于已经在每一层上有偏好的团队——比如已有 Deepgram 合同、一套 Claude 提示库、一个克隆好的 ElevenLabs 音色——四者之中只有 Vapi 能让你三样都保留。代价是延迟预算由你自己背;单轮往返时间是你那一跳调得最差的那个的总和。
可编程电话号码与对开发者友好的定价
可编程电话号码是头等公民:开一个号、指向一个 Vapi 助手,呼入电话就流进你的流水线。外呼是对称的。定价是一笔按分钟的编排费,叠加在你接入的每家提供商按分钟或按 token 的费用之上——这种透明度是打包式产品给不了的,因为每一项你都看得到。底线由你掌控的总和组成,而不是宣传册上的一个数字。
Retell AI
端到端的语音智能体平台
Retell 走的方向跟 Vapi 相反:与其把栈暴露给你,它把栈吃进去。你描述一个智能体——提示词、工具、允许转接的目标——Retell 把音频流水线、模型选择、轮次管理与电话集成作为一个产品一并处理。它的配置面是为某一类特定应用塑形的(接听电话、做客服、排程或销售线索资格甄别的语音智能体),不是一个通用语音运行时。Vapi 问"用哪几家提供商",Retell 问"做哪种工作流"。
内置的轮次管理与 barge-in
语音智能体管线里有两块在纸面上看着轻巧、在实战里却要耗掉好几周的零件:一是轮次管理(判断用户是说完了,还是只是在说话中停顿一下),二是 barge-in(在智能体还没说完时用户开口,干净利落地处理这种情况)。Retell 把这两项作为面向真实电话场景调好的默认行为出厂——长停顿、串话、DTMF 按键音都考虑在内。代价跟这个平台其他部分一样:这是一种很难复刻的行为,但也没有让你为默认设计未涵盖的场景再细调的旋钮。
面向呼叫中心的产品定位
Retell 的市场定位很明确:处理数千通并发电话的呼叫中心,CRM 集成、通话后分析以及向人工坐席的暖转接都是核心功能。当替代方案是"Twilio + 自建编排,开发一个季度、再硬化一个季度"时,这个产品才物有所值。对于一个嵌入网页、基于知识库回答问题的单一助手来说,Retell 是过度工程;但对于一个 7×24 小时为企业接电话的"语音前门",它是从零到生产环境的最短路径。
OpenAI gpt-realtime
音频原生的单一模型(2025 年 8 月 GA)
OpenAI 在 2025 年 8 月将 gpt-realtime 推向正式可用,其架构主张是四者中最激进的:流水线里既没有 STT、也没有 TTS。音频字节直接进入一个模型,模型直接对语音做推理,再吐出音频字节。一条传统流水线要先付转写、再付推理、再付合成的钱,每一道边界还要付一次网络跳数和一次缓冲的钱;把三者折叠进一个模型,预算也跟着折叠。代价是你要把 OpenAI 的音色、推理与定价作为一个套餐一并承接——没有任何一层可以替换。
SIP 集成与定价
Realtime API 直接讲 SIP,电话提供商可以把通话音频直接流式送入模型,中间不需要转码器。定价按音频流的 token 计量——2025 年 8 月发布时大约每百万输入音频 token 32 美元,输出与文本 token 分开计费。按 token 计价对语音产品来说不太常见,值得建模一遍:智能体长段独白会按输出音频 token 大量计费,这是按分钟定价不会出现的形状。这种经济画像更接近"LLM 即服务",而不是一个托管语音平台。
没有编排层
gpt-realtime 不给你的,是轮次管理策略、barge-in 处理、知识库检索器,以及电话号码——这些都是你的事。Realtime API 暴露的是一个 WebSocket 和一套函数调用接口;应用程序的其余部分由你搭建。对于已经在运营周边管线的团队——电话提供商、向量存储、工具注册表——这是四者中最轻量的集成。对于还想要"平台其余部分"的团队,它是一个构件,不是一个产品。
横向对比
音频走在哪里
四者沿同一条轴分裂:音频经过谁的栈。ElevenLabs 与 Retell 端到端拥有这条流水线——字节在客户端进入它们的边界,穿过它们的栈,作为合成语音输出,你只在提示词与工具层做引导。Vapi 把这一关系反转:音频经过的 STT 与 TTS 是你挑的,但在 Vapi 的编排之下流转,Vapi 是指挥,不是乐器。gpt-realtime 让问题直接短路——没有流水线,因为根本没有流水线;一个模型把音频握住一次往返再交还。实际影响落在数据驻留与可观察性上:ElevenLabs 和 Retell 给你完成后的声音和一份转写;Vapi 给你每一段中间流,因为线是你连的;gpt-realtime 在 API 边界上给你 OpenAI 选择暴露的那一份。
模型选择自由度
四者中有三家让你选 LLM,一家刻意不让你选。Vapi 最宽松,把 LLM 当作又一个可配置的中转跳——gpt-4o、Claude、挂在 OpenAI 兼容端点后的开源模型,预算允许的随便接。ElevenLabs 在"能干净流式喂进我们 TTS 的模型"这个边界内宽松;一线支持 gpt-4o、Claude 与 Gemini,遇到非流式端点会有些别扭。Retell 提供一份为它的轮次管理与 barge-in 行为调好的菜单——你从列表里选,不能想接什么就接什么。gpt-realtime 自身就是那个模型;循环里没有别的 LLM,因为模型就是循环。相关的问题不是"支不支持替换",而是"在你的产品生命周期内,你是否愿意押 OpenAI 的音频原生模型一直留在语音前沿"。
电话集成
电话是架构押注变成运维选择的地方。Vapi 把可编程电话号码作为原语出厂——开号、指向、接听——这让它成为四者中"如果你还没有号码,把它装到电话上"最快的那个。Retell 走得更远,把电话端的关切(暖转接、DTMF 处理、多智能体路由)烤进产品里,因为这个产品就是呼叫中心智能体。ElevenLabs 支持 SIP 与 Twilio 集成,但电话只是通往 Conversational AI 的一条路径,并非产品的重心——文档读起来是集成指南,而不是电话优先的设计。gpt-realtime 直接对模型讲 SIP,是电话提供商到 LLM 之间技术上最干净的一条路径,但所有更高层的关切(排队、路由、转写归档)都留给你来搭。
按分钟的经济性
账单走四条不同的路抵达。ElevenLabs 与 Retell 公布按分钟计费的费率,LLM 成本折在里面;账单项可预测,意外风险有界。Vapi 在每家提供商的计量成本之上叠加一笔按分钟的编排费;账单透明,因为每一个组件都列得清清楚楚,但建模成本是你的活儿。gpt-realtime 在两个方向上都按音频 token 计费(2025 年 8 月 GA 快照大约每百万输入音频 token 32 美元)——这是粒度最细的模型,也是最可能让"心算按分钟给语音定价"的团队感到意外的那一个。规模化后哪家最便宜,取决于对话形状:短而平衡的轮次偏向按 token;智能体长段独白偏向按分钟;高并发呼叫中心负载偏向"愿意跟你谈价的那一家"。
该选哪一个
| 使用场景 | 选 ElevenLabs,当…… | 选 Vapi,当…… | 选 Retell,当…… | 选 OpenAI gpt-realtime,当…… |
|---|---|---|---|---|
| 消费者语音助手 | 音质是差异化点,并且你想要一把克隆的品牌音色。 | 你想在同一个编排器下混搭提供商(Deepgram + Claude + 一把克隆音色)。 | 你想要一个端到端的智能体,带轮次管理、barge-in 和一张总账单。 | 你愿意用 OpenAI 的音色发布,以换取最低延迟与最简集成。 |
| 呼叫中心 / 高通话量 | 嵌入网页的客服可以胜任;做到规模化时,专为此设计的平台更强。 | 你希望把电话与语音解耦,并在其上付按分钟的编排费。 | 专为呼叫中心打造的原语——通话路由、坐席切换、通话后分析——开箱即得。 | 你已经在运营排队、路由与 CRM 黏合层,想把模型当成一块构件。 |
| 纯电话的 IVR 替换 | 支持 SIP 与 Twilio,但电话并非产品的重心。 | 你想在几分钟内拿到一个挂着助手的可编程电话号码。 | 电话是核心;智能体与电话号码一起出厂,自带原生轮次管理。 | 你的电话提供商能直接对模型讲 SIP,其余你自己搭。 |
| 带知识库的网页嵌入 | 你想要在同一个产品里拿到托管知识库、托管工具与高质量音色。 | 你想保留现有的检索栈,仅租用音频编排部分。 | 你希望平台拥有智能体逻辑,但通过工具调用接入你自己的知识。 | 你愿意把检索写成模型可调用的函数——KB 是你的事。 |
| 最低延迟 | 即便逐 token 流式送入,TTS 这一跳仍会带来可测量的预算开销。 | 延迟是你那几跳的总和——可调,但永远比"没有跳"要长。 | 跟 Vapi 同档:为亚秒级轮次管理调过,但依然是一条流水线。 | 音频原生单一模型:设计上四者中最短的往返。 |
| 最高音质 | 产品的重心所在——克隆音色、多语种韵律、成熟音色库。 | 你可以挑 ElevenLabs 同款 TTS,再加一家用于冗余。 | 常见提供商的标准音色;质量不差,但不是差异化点。 | 音质在改善,但还不是模型最先优化的那条轴。 |
常见问题
这四个里有哪个能自托管吗?
四者都不把自托管运行时作为一线产品交付。ElevenLabs、Retell 以及 OpenAI 的 Realtime API 都是通过网络访问的托管服务。Vapi 最接近自托管——它的 SDK 与编排器组件部分开源——但生产路径仍是托管云。如果完全本地部署的语音智能体是硬性要求,请看最后一题 FAQ 中的开源项目(LiveKit Agents、Pipecat),而不是这里对比的四者中的任何一个。
规模化后哪个最便宜?
取决于对话形状。gpt-realtime 的按 token 计费奖励短而平衡的轮次;智能体长段独白会计费偏重,因为输出音频 token 持续累积。ElevenLabs 与 Retell 公布按分钟计费的费率,把模型成本折在里面——可预测,并对长时长交互更友好。Vapi 在每家提供商的计量成本之上叠加一笔按分钟的编排费——如果你能按量谈下提供商的价格,往往是最便宜的。在签合同之前,请按你真实的通话转写来对成本建模。
gpt-realtime 支持函数调用吗?
支持。Realtime API 在与音频流同一条 WebSocket 上暴露函数调用——模型在对话中途决定调用你注册的函数,你在服务端执行,再把结果流式写回会话。这是你把知识检索、数据库查询或外部 API 调用接入语音流程的方式——也是为 gpt-realtime 智能体做事实接地的主要机制,因为它没有内置知识库。
barge-in / 打断怎么处理?
Retell 与 ElevenLabs 默认就出厂一份为真实场景调好的 barge-in 处理——用户开口,智能体就闭嘴。Vapi 把 barge-in 作为可配置的编排器行为暴露给你,意思是你可以调,但也得自己调试。gpt-realtime 通过 WebSocket 发出打断信号——你的代码停止播放,把新音频喂回去。托管平台把这部分工作藏起来;模型 API 把它暴露出来。
哪一个开箱即带电话集成?
Vapi 与 Retell 最强——两者都把电话号码作为产品内的一线原语来开通。Retell 更深入地处理了呼叫中心层面的关切(暖转接、多智能体路由、DTMF)。ElevenLabs 把 SIP 与 Twilio 作为已记录的集成支持,而非核心特性。gpt-realtime 直接讲 SIP,技术上干净,但所有更高层的电话关切都留给你自己拼装。
开源语音智能体栈(LiveKit Agents、Pipecat)怎么样?
如果自托管是不可让步的前提,两者都靠谱。LiveKit Agents 建立在 LiveKit 的 WebRTC 栈之上——一个 Python 框架,用来在你自己的编排器之下组装 STT、LLM 与 TTS 提供商,精神上最接近"可自托管的 Vapi"。Pipecat 类似地是一个用于实时语音和视频智能体的 Python 编排框架。两者都还达不到这里四家托管平台的打磨度,但如果数据驻留、避免厂商绑定或对音频通路的完全掌控是硬性约束,它们是正确的起点。
延伸阅读
本站相关内容:
- 模态——语音在现代模型 API 中与文本、视觉并列的位置,以及为什么像
gpt-realtime这样的音频原生模型把一条一年前还要三个服务的流水线折叠掉了。 - 智能体循环——每个语音智能体都在包裹的感知-决策-行动循环,其中音频取代了文本,成为感知与行动的界面。
- 成本、质量、延迟——决定你按分钟、按 token 还是按跳数发布的三角权衡,以及语音如何同时放大这三条轴。
项目来源:
- ElevenLabs Conversational AI——产品页、可插拔 LLM 列表、知识库与工具调用文档。
- Vapi——编排器文档、提供商矩阵(STT / LLM / TTS)、可编程电话号码、按分钟定价。
- Retell AI——端到端语音智能体平台、轮次管理与 barge-in 默认行为、呼叫中心集成。
- OpenAI Realtime API 文档——
gpt-realtime架构、2025 年 8 月 GA 说明、SIP 集成、按音频 token 定价。 - LiveKit Agents——建立在 LiveKit WebRTC 栈之上的开源语音智能体框架。
- Pipecat——面向实时语音与视频智能体的开源编排框架。