AI 博客

ElevenLabs、Vapi、Retell 与 OpenAI gpt-realtime:让智能体开口说话的四种下注方式

语音正变成大多数智能体停留时间最久的界面——而四家平台在如何把语音、语言与工具调用合并到一次往返里做了架构上完全相反的下注。选哪一家,关键并非 TTS 音质,而是你掌握的是音频通路、模型本身,还是只能改一下 prompt。

作者 智能体 AI 维基 33 分钟读完

语音正在成为大多数智能体停留时间最长的界面,而四个平台对"如何把语音、语言与工具调用拧成一次往返"给出了架构上截然相反的押注。选谁,关键不在 TTS 音质,而在于你究竟想掌控音频通路、模型,还是仅仅是提示词。ElevenLabs 卖嗓子,再租你一圈对话循环;Vapi 把整条 STT-LLM-TTS 流水线作为可编程栈暴露给你;Retell 直接交付一个开箱即用的呼叫中心智能体;OpenAI 的 gpt-realtime 则把整条流水线折叠进一个音频原生的单一模型。截至 2026 年 6 月下旬,选哪一个,等于在选你想拥有这条栈中的哪一层。

速览

四个平台,对同一个问题给出四个答案:你的应用住在语音栈的哪一层?下表先给出基本面;柱状图与特性矩阵展示各自最重的下注方向。

平台 路线 是否可自托管 延迟特征
ElevenLabs Conversational AI TTS 优先的托管型智能体,可插拔 LLM,自家 TTS 固定不换 否——托管 SaaS 亚秒级单轮响应,主要瓶颈在外部 LLM 这一跳
Vapi 在你自选的 STT / LLM / TTS 之上做编排 否(云端)——SDK 部分开源 亚秒级,由你接入的最慢一家提供商决定
Retell AI 端到端语音智能体平台,自带轮次管理 否——托管 SaaS 亚秒级,专为高并发呼叫中心负载调优
OpenAI gpt-realtime 音频原生单一模型——语音进、语音出,没有流水线 否——仅 API 四者中最低;无 STT/TTS 跳数,仅一次模型往返

快照时间:2026-06-23。托管语音服务的延迟与定价变动很快——在估算部署规模前,请以各家厂商的当前文档为准。

Round-trip latency comparison Horizontal bar chart comparing round-trip voice agent latency in milliseconds: OpenAI gpt-realtime leads at 350 ms, followed by Vapi at 600 ms, Retell at 700 ms, and ElevenLabs Conversational AI at 850 ms. Round-trip latency (ms, snapshot) 0 200 400 600 800 1000 ms OpenAI gpt-realtime 350 ms Vapi 600 ms Retell 700 ms ElevenLabs Conv. AI 850 ms
单轮往返延迟的示意性快照。真实数值取决于你接入的 LLM、所在区域以及网络状况——把它当成一张相对形状图,而非 SLA。
Voice agent feature comparison matrix Heatmap comparing ElevenLabs Conversational AI, Vapi, Retell, and OpenAI gpt-realtime across five axes: Self-hosted, Model freedom, Telephony built-in, Voice quality, and Latency. Strength indicated by fill from light (weak) to solid orange-red (strong). Feature strength by platform Self- hosted? Model freedom Telephony built-in Voice quality Latency ElevenLabs No High Yes Best Medium Vapi No High Yes Good Low Retell No Medium Yes Good Low OpenAI gpt-realtime No Low Yes Good Best Weak Medium Strong
真正能区分这四者的五条轴上,谁在哪条轴上最重押。

ElevenLabs Conversational AI

ElevenLabs Conversational AI — TTS-first voice agent ElevenLabs Conversational AI routes call audio through a pluggable STT stage, a pluggable LLM stage, and ElevenLabs' own TTS engine before returning audio. A separate tool-use branch handles function calls. Voice quality via ElevenLabs' proprietary synthesis is the platform's primary moat. ElevenLabs Conversational AI Call audio in STT pluggable Deepgram / custom LLM pluggable GPT-4o / Claude / custom TTS ElevenLabs voice ultra-low latency voice cloning Call audio out Tool use function calls / webhooks Voice quality is the moat.
一条经典的 STT → LLM → TTS 流水线——ElevenLabs 掌握音频面,让你替换大脑。

TTS 级音质就是护城河

ElevenLabs 是从语音栈的顶层进入语音智能体赛道的:一套 TTS 引擎与声音克隆生态,多年来都在打磨韵律、呼吸与情感语调。Conversational AI 把对话循环螺接在这台引擎之上。如果你在自建与外购之间的决定性因素是"机器人听起来像不像人",那么这家平台的护城河恰好对准了这个问题。声音克隆、多语种覆盖以及成熟的精选音色库都是产品本身的一部分,而不是另一条需要单独集成的链路。

可插拔的 LLM,固定的 TTS

模型层是可配置的:你可以让 Conversational AI 指向 gpt-4o、某个 Claude 模型、Gemini,或一个挂在 OpenAI 兼容端点后的开源权重模型。TTS 层则不行——你用的就是 ElevenLabs 的音色,这正是产品的全部意义。这种不对称把 Vapi 的姿态反了过来:在 ElevenLabs,你为了质量或成本去换大脑;在 Vapi,你可以换任意一层;而在 gpt-realtime,你什么都换不了。

内置知识库与工具调用

Conversational AI 自带托管知识库(上传 PDF、URL 或文本),并提供一套工具调用接口,让所配置的 LLM 在对话中途调用你的 webhook。要做一个嵌入网页、基于产品文档作答的语音助手,你可以在不写任何编排层的情况下让一个能用的智能体跑起来——知识检索、函数调用 schema 与音频通路全是厂商的事。代价是托管产品惯有的那一项:你的知识库与通话转写都落在 ElevenLabs 的边界之内,对任何有数据驻留要求的部署而言,这一点至关重要。

Vapi

编排优先的架构

Vapi 把语音视作要被组装的栈,而非要被消费的服务。你挑一家语音转文字提供商、一个 LLM 和一家 TTS 提供商,Vapi 跑那个编排器,在它们之间流式传输音频、管理轮次、处理打断,并把结果接到一个电话号码或一个网页客户端上。这种框架更接近"自建语音运行时"而非"成品"——这既是它的吸引力所在,也是它运维负担的来源。

可插拔的 STT / LLM / TTS 栈

每一层都是一个配置项。转写用 Deepgram、AssemblyAI 或 Whisper;推理用 gpt-4o、Claude、Gemini 或某个开源模型;TTS 用 ElevenLabs、Azure、PlayHT 或 Cartesia。对于已经在每一层上有偏好的团队——比如已有 Deepgram 合同、一套 Claude 提示库、一个克隆好的 ElevenLabs 音色——四者之中只有 Vapi 能让你三样都保留。代价是延迟预算由你自己背;单轮往返时间是你那一跳调得最差的那个的总和。

可编程电话号码与对开发者友好的定价

可编程电话号码是头等公民:开一个号、指向一个 Vapi 助手,呼入电话就流进你的流水线。外呼是对称的。定价是一笔按分钟的编排费,叠加在你接入的每家提供商按分钟或按 token 的费用之上——这种透明度是打包式产品给不了的,因为每一项你都看得到。底线由你掌控的总和组成,而不是宣传册上的一个数字。

Retell AI

端到端的语音智能体平台

Retell 走的方向跟 Vapi 相反:与其把栈暴露给你,它把栈吃进去。你描述一个智能体——提示词、工具、允许转接的目标——Retell 把音频流水线、模型选择、轮次管理与电话集成作为一个产品一并处理。它的配置面是为某一类特定应用塑形的(接听电话、做客服、排程或销售线索资格甄别的语音智能体),不是一个通用语音运行时。Vapi 问"用哪几家提供商",Retell 问"做哪种工作流"。

内置的轮次管理与 barge-in

语音智能体管线里有两块在纸面上看着轻巧、在实战里却要耗掉好几周的零件:一是轮次管理(判断用户是说完了,还是只是在说话中停顿一下),二是 barge-in(在智能体还没说完时用户开口,干净利落地处理这种情况)。Retell 把这两项作为面向真实电话场景调好的默认行为出厂——长停顿、串话、DTMF 按键音都考虑在内。代价跟这个平台其他部分一样:这是一种很难复刻的行为,但也没有让你为默认设计未涵盖的场景再细调的旋钮。

面向呼叫中心的产品定位

Retell 的市场定位很明确:处理数千通并发电话的呼叫中心,CRM 集成、通话后分析以及向人工坐席的暖转接都是核心功能。当替代方案是"Twilio + 自建编排,开发一个季度、再硬化一个季度"时,这个产品才物有所值。对于一个嵌入网页、基于知识库回答问题的单一助手来说,Retell 是过度工程;但对于一个 7×24 小时为企业接电话的"语音前门",它是从零到生产环境的最短路径。

OpenAI gpt-realtime

OpenAI gpt-realtime — single-model audio-native architecture Unlike pipeline-based voice agents that chain separate STT, LLM, and TTS stages, OpenAI gpt-realtime processes audio input and emits audio output directly through one model — eliminating inter-stage latency and transcription artifacts. A SIP or phone adapter sits alongside to bridge telephony. Traditional pipeline (other vendors) STT LLM (text) TTS three round trips · transcription error surface · accumulated latency Audio-native single model Audio input WebRTC stream / PSTN / SIP gpt-realtime audio in → audio out no STT · no TTS stage native speech understanding tool / function call support interruption handling built-in Audio output streamed speech low latency SIP / phone integration Twilio · Telnyx · direct SIP trunk bridges PSTN → WebRTC
一个模型、一次往返,循环里没有 STT 和 TTS。函数调用与电话集成从同一个 socket 分叉出去。

音频原生的单一模型(2025 年 8 月 GA)

OpenAI 在 2025 年 8 月将 gpt-realtime 推向正式可用,其架构主张是四者中最激进的:流水线里既没有 STT、也没有 TTS。音频字节直接进入一个模型,模型直接对语音做推理,再吐出音频字节。一条传统流水线要先付转写、再付推理、再付合成的钱,每一道边界还要付一次网络跳数和一次缓冲的钱;把三者折叠进一个模型,预算也跟着折叠。代价是你要把 OpenAI 的音色、推理与定价作为一个套餐一并承接——没有任何一层可以替换。

SIP 集成与定价

Realtime API 直接讲 SIP,电话提供商可以把通话音频直接流式送入模型,中间不需要转码器。定价按音频流的 token 计量——2025 年 8 月发布时大约每百万输入音频 token 32 美元,输出与文本 token 分开计费。按 token 计价对语音产品来说不太常见,值得建模一遍:智能体长段独白会按输出音频 token 大量计费,这是按分钟定价不会出现的形状。这种经济画像更接近"LLM 即服务",而不是一个托管语音平台。

没有编排层

gpt-realtime 不给你的,是轮次管理策略、barge-in 处理、知识库检索器,以及电话号码——这些都是你的事。Realtime API 暴露的是一个 WebSocket 和一套函数调用接口;应用程序的其余部分由你搭建。对于已经在运营周边管线的团队——电话提供商、向量存储、工具注册表——这是四者中最轻量的集成。对于还想要"平台其余部分"的团队,它是一个构件,不是一个产品。

横向对比

音频走在哪里

四者沿同一条轴分裂:音频经过谁的栈。ElevenLabs 与 Retell 端到端拥有这条流水线——字节在客户端进入它们的边界,穿过它们的栈,作为合成语音输出,你只在提示词与工具层做引导。Vapi 把这一关系反转:音频经过的 STT 与 TTS 是挑的,但在 Vapi 的编排之下流转,Vapi 是指挥,不是乐器。gpt-realtime 让问题直接短路——没有流水线,因为根本没有流水线;一个模型把音频握住一次往返再交还。实际影响落在数据驻留与可观察性上:ElevenLabs 和 Retell 给你完成后的声音和一份转写;Vapi 给你每一段中间流,因为线是你连的;gpt-realtime 在 API 边界上给你 OpenAI 选择暴露的那一份。

模型选择自由度

四者中有三家让你选 LLM,一家刻意不让你选。Vapi 最宽松,把 LLM 当作又一个可配置的中转跳——gpt-4o、Claude、挂在 OpenAI 兼容端点后的开源模型,预算允许的随便接。ElevenLabs 在"能干净流式喂进我们 TTS 的模型"这个边界内宽松;一线支持 gpt-4o、Claude 与 Gemini,遇到非流式端点会有些别扭。Retell 提供一份为它的轮次管理与 barge-in 行为调好的菜单——你从列表里选,不能想接什么就接什么。gpt-realtime 自身就是那个模型;循环里没有别的 LLM,因为模型就是循环。相关的问题不是"支不支持替换",而是"在你的产品生命周期内,你是否愿意押 OpenAI 的音频原生模型一直留在语音前沿"。

电话集成

电话是架构押注变成运维选择的地方。Vapi 把可编程电话号码作为原语出厂——开号、指向、接听——这让它成为四者中"如果你还没有号码,把它装到电话上"最快的那个。Retell 走得更远,把电话端的关切(暖转接、DTMF 处理、多智能体路由)烤进产品里,因为这个产品就是呼叫中心智能体。ElevenLabs 支持 SIP 与 Twilio 集成,但电话只是通往 Conversational AI 的一条路径,并非产品的重心——文档读起来是集成指南,而不是电话优先的设计。gpt-realtime 直接对模型讲 SIP,是电话提供商到 LLM 之间技术上最干净的一条路径,但所有更高层的关切(排队、路由、转写归档)都留给你来搭。

按分钟的经济性

账单走四条不同的路抵达。ElevenLabs 与 Retell 公布按分钟计费的费率,LLM 成本折在里面;账单项可预测,意外风险有界。Vapi 在每家提供商的计量成本之上叠加一笔按分钟的编排费;账单透明,因为每一个组件都列得清清楚楚,但建模成本是你的活儿。gpt-realtime 在两个方向上都按音频 token 计费(2025 年 8 月 GA 快照大约每百万输入音频 token 32 美元)——这是粒度最细的模型,也是最可能让"心算按分钟给语音定价"的团队感到意外的那一个。规模化后哪家最便宜,取决于对话形状:短而平衡的轮次偏向按 token;智能体长段独白偏向按分钟;高并发呼叫中心负载偏向"愿意跟你谈价的那一家"。

该选哪一个

使用场景 选 ElevenLabs,当…… 选 Vapi,当…… 选 Retell,当…… 选 OpenAI gpt-realtime,当……
消费者语音助手 音质是差异化点,并且你想要一把克隆的品牌音色。 你想在同一个编排器下混搭提供商(Deepgram + Claude + 一把克隆音色)。 你想要一个端到端的智能体,带轮次管理、barge-in 和一张总账单。 你愿意用 OpenAI 的音色发布,以换取最低延迟与最简集成。
呼叫中心 / 高通话量 嵌入网页的客服可以胜任;做到规模化时,专为此设计的平台更强。 你希望把电话与语音解耦,并在其上付按分钟的编排费。 专为呼叫中心打造的原语——通话路由、坐席切换、通话后分析——开箱即得。 你已经在运营排队、路由与 CRM 黏合层,想把模型当成一块构件。
纯电话的 IVR 替换 支持 SIP 与 Twilio,但电话并非产品的重心。 你想在几分钟内拿到一个挂着助手的可编程电话号码。 电话是核心;智能体与电话号码一起出厂,自带原生轮次管理。 你的电话提供商能直接对模型讲 SIP,其余你自己搭。
带知识库的网页嵌入 你想要在同一个产品里拿到托管知识库、托管工具与高质量音色。 你想保留现有的检索栈,仅租用音频编排部分。 你希望平台拥有智能体逻辑,但通过工具调用接入你自己的知识。 你愿意把检索写成模型可调用的函数——KB 是你的事。
最低延迟 即便逐 token 流式送入,TTS 这一跳仍会带来可测量的预算开销。 延迟是你那几跳的总和——可调,但永远比"没有跳"要长。 跟 Vapi 同档:为亚秒级轮次管理调过,但依然是一条流水线。 音频原生单一模型:设计上四者中最短的往返。
最高音质 产品的重心所在——克隆音色、多语种韵律、成熟音色库。 你可以挑 ElevenLabs 同款 TTS,再加一家用于冗余。 常见提供商的标准音色;质量不差,但不是差异化点。 音质在改善,但还不是模型最先优化的那条轴。

常见问题

这四个里有哪个能自托管吗?

四者都不把自托管运行时作为一线产品交付。ElevenLabs、Retell 以及 OpenAI 的 Realtime API 都是通过网络访问的托管服务。Vapi 最接近自托管——它的 SDK 与编排器组件部分开源——但生产路径仍是托管云。如果完全本地部署的语音智能体是硬性要求,请看最后一题 FAQ 中的开源项目(LiveKit Agents、Pipecat),而不是这里对比的四者中的任何一个。

规模化后哪个最便宜?

取决于对话形状。gpt-realtime 的按 token 计费奖励短而平衡的轮次;智能体长段独白会计费偏重,因为输出音频 token 持续累积。ElevenLabs 与 Retell 公布按分钟计费的费率,把模型成本折在里面——可预测,并对长时长交互更友好。Vapi 在每家提供商的计量成本之上叠加一笔按分钟的编排费——如果你能按量谈下提供商的价格,往往是最便宜的。在签合同之前,请按你真实的通话转写来对成本建模。

gpt-realtime 支持函数调用吗?

支持。Realtime API 在与音频流同一条 WebSocket 上暴露函数调用——模型在对话中途决定调用你注册的函数,你在服务端执行,再把结果流式写回会话。这是你把知识检索、数据库查询或外部 API 调用接入语音流程的方式——也是为 gpt-realtime 智能体做事实接地的主要机制,因为它没有内置知识库。

barge-in / 打断怎么处理?

Retell 与 ElevenLabs 默认就出厂一份为真实场景调好的 barge-in 处理——用户开口,智能体就闭嘴。Vapi 把 barge-in 作为可配置的编排器行为暴露给你,意思是你可以调,但也得自己调试。gpt-realtime 通过 WebSocket 发出打断信号——你的代码停止播放,把新音频喂回去。托管平台把这部分工作藏起来;模型 API 把它暴露出来。

哪一个开箱即带电话集成?

Vapi 与 Retell 最强——两者都把电话号码作为产品内的一线原语来开通。Retell 更深入地处理了呼叫中心层面的关切(暖转接、多智能体路由、DTMF)。ElevenLabs 把 SIP 与 Twilio 作为已记录的集成支持,而非核心特性。gpt-realtime 直接讲 SIP,技术上干净,但所有更高层的电话关切都留给你自己拼装。

开源语音智能体栈(LiveKit Agents、Pipecat)怎么样?

如果自托管是不可让步的前提,两者都靠谱。LiveKit Agents 建立在 LiveKit 的 WebRTC 栈之上——一个 Python 框架,用来在你自己的编排器之下组装 STT、LLM 与 TTS 提供商,精神上最接近"可自托管的 Vapi"。Pipecat 类似地是一个用于实时语音和视频智能体的 Python 编排框架。两者都还达不到这里四家托管平台的打磨度,但如果数据驻留、避免厂商绑定或对音频通路的完全掌控是硬性约束,它们是正确的起点。

延伸阅读

本站相关内容:

  • 模态——语音在现代模型 API 中与文本、视觉并列的位置,以及为什么像 gpt-realtime 这样的音频原生模型把一条一年前还要三个服务的流水线折叠掉了。
  • 智能体循环——每个语音智能体都在包裹的感知-决策-行动循环,其中音频取代了文本,成为感知与行动的界面。
  • 成本、质量、延迟——决定你按分钟、按 token 还是按跳数发布的三角权衡,以及语音如何同时放大这三条轴。

项目来源:

  • ElevenLabs Conversational AI——产品页、可插拔 LLM 列表、知识库与工具调用文档。
  • Vapi——编排器文档、提供商矩阵(STT / LLM / TTS)、可编程电话号码、按分钟定价。
  • Retell AI——端到端语音智能体平台、轮次管理与 barge-in 默认行为、呼叫中心集成。
  • OpenAI Realtime API 文档——gpt-realtime 架构、2025 年 8 月 GA 说明、SIP 集成、按音频 token 定价。
  • LiveKit Agents——建立在 LiveKit WebRTC 栈之上的开源语音智能体框架。
  • Pipecat——面向实时语音与视频智能体的开源编排框架。