OpenAI 甩出 gpt-realtime-2.1：Realtime API 延迟直降 25%，mini 版还带推理

7 月 7 日，OpenAI 在开发者论坛上挂出一则更新公告：Realtime API 里新增两款模型——gpt-realtime-2.1 和 gpt-realtime-2.1-mini，并且通过改良缓存机制，把 Realtime 语音模型的 p95 延迟至少压低了 25%。

没有开发者大会、没有 CEO 站台，就是一条论坛帖加一份文档更新。但对做语音 Agent 的团队来说，这是最近两个月最值得关注的动作——比 5 月那次 GPT-Realtime-2 带 GPT-5 级推理进语音的发布更实在。因为延迟这东西，对语音交互是生死线。

p95 延迟 25% 是什么概念

先解释一下 p95。这不是平均延迟，是 95 分位——也就是说 95% 的请求响应时间都比这个数快。对语音 Agent 场景，平均延迟是个骗人的指标，用户听到的是长尾。你平均 300ms 很漂亮，但每十次对话就有一次卡 1.5 秒，用户直接就走了。

p95 压 25%，意味着长尾请求整体拉齐。OpenAI 的说法是「through improved caching」，翻译过来就是缓存命中率上去了。这跟他们几周前那篇讲「用 Go 重写底层连接堆栈」的博客能对上——底层网络栈换掉之后，session 复用、上下文缓存的路径变短了，长连接场景收益最大。

实测层面还需要等社区数据。但从公告口径「at least 25%」这种保底措辞看，内部测的中位数应该更高，估计在 30% 以上。

gpt-realtime-2.1：修的都是生产环境的坑

gpt-realtime-2.1 是 5 月发布的 GPT-Realtime-2 的迭代版，改动点全冲着生产环境去：

• 字母数字识别增强：电话号码、订单号、车架号、验证码这类东西，是语音客服翻车重灾区。2.1 在西班牙语、中文、日语、法语的字母数字序列识别上继续调优
• 静音与噪声处理：办公室背景音、马路车声、家里的电视声，2.1 的鲁棒性更强
• 打断行为：这个不用多解释，语音 Agent 被打断后能不能自然接上话，直接决定用户体验
• 指令遵循：系统 prompt 里那些「必须先念免责声明」「不能回答无关问题」的硬约束，2.1 遵守得更死
• 可配置推理强度：minimal / low / medium / high / xhigh 五档

最后这个推理强度分档是从 GPT-Realtime-2 延续下来的。默认档是 low，OpenAI 官方建议生产环境语音 Agent 从 low 起步。这条建议挺良心——大部分开发者第一反应是「拉满 xhigh 才够聪明」，但 xhigh 在 Big Bench Audio 上刷 96.6% 的代价是延迟和成本双爆炸，真正对话场景根本用不上那么重的推理。

gpt-realtime-2.1-mini：这次是真的会思考的小模型

mini 版本是这次更新里更有意思的东西。

它是一个 mini reasoning 模型——注意这里的 reasoning。以前的 gpt-realtime-mini 就是个便宜版对话模型，2.1-mini 把推理能力塞了进来，可以在执行动作前先做内部推理，并且通过口头前置说明（「让我想想」「稍等一下我查一下」）保持对话连续。

价格和上一代 mini 完全一样，能力却上了台阶。这是典型的 OpenAI 打法：性能翻上去，价格按住不动，直接把开发者从竞品那边拽回来。

对做语音客服、语音订单、电话外呼 Bot 的团队，2.1-mini 才是真正会被大规模部署的那个型号。2.1 大版本适合复杂 Agent 场景——需要调多个工具、要跨会话保持复杂状态、要处理歧义指令。日常客服跑 mini 就够了。

价格表：mini 版便宜到离谱

gpt-realtime-2.1（每百万 tokens）

| 模态 | 输入 | 缓存输入 | 输出 | |------|------|----------|------| | 文本 | $4 | $0.40 | $24 | | 音频 | $32 | $0.40 | $64 | | 图片 | $5 | $0.50 | - |

gpt-realtime-2.1-mini（每百万 tokens）

| 模态 | 输入 | 缓存输入 | 输出 | |------|------|----------|------| | 文本 | $0.6 | $0.06 | $2.4 | | 音频 | $10 | $0.30 | $20 | | 图片 | $0.8 | $0.08 | - |

注意两个细节：

第一，缓存输入价格砍到骨头。音频缓存输入两个型号都是 $0.30-$0.40，相比未缓存输入便宜 30-80 倍。这就是为什么 OpenAI 反复强调缓存优化——他们既要你用缓存降延迟，又要通过缓存价差鼓励你把长上下文塞进 session。

第二，mini 的音频输出 $20/百万 tokens，比 2.1 便宜三倍多。按行业惯例，一分钟语音大约消耗 1000-1500 音频 token，也就是说 mini 跑一小时对话，成本大概在 1.5 美元左右。这个价格已经能进入呼叫中心的正经财务模型了。

调用示例

两个模型都通过 Realtime API 走 WebSocket 或 WebRTC，OpenAI Hub 已经同步支持，Key 和调用方式保持 OpenAI 兼容格式：

// WebSocket 连接 Realtime API
const ws = new WebSocket(
  "wss://api.openai-hub.com/v1/realtime?model=gpt-realtime-2.1",
  {
    headers: {
      "Authorization": `Bearer ${OPENAI_HUB_KEY}`,
      "OpenAI-Beta": "realtime=v1"
    }
  }
);

// 会话初始化，推理强度设为 low（官方推荐生产环境起步档）
ws.on("open", () => {
  ws.send(JSON.stringify({
    type: "session.update",
    session: {
      modalities: ["audio", "text"],
      voice: "cedar",
      instructions: "你是一个客服助手，读电话号码要一位一位念。",
      reasoning: { effort: "low" },
      turn_detection: {
        type: "server_vad",
        threshold: 0.5,
        silence_duration_ms: 500
      },
      tools: [
        {
          type: "function",
          name: "query_order",
          description: "根据订单号查询订单状态",
          parameters: {
            type: "object",
            properties: { order_id: { type: "string" } },
            required: ["order_id"]
          }
        }
      ]
    }
  }));
});

如果要跑 mini 版本，把 model 换成 gpt-realtime-2.1-mini 即可，其他参数完全兼容。对国内团队来说，走 OpenAI Hub 直连的好处是不用折腾出海网络，WebSocket 长连接稳定性是 Realtime API 场景最要命的一环——延迟本来就已经压到极限了，再叠个不稳定的代理链路，前面 25% 的优化全白搭。

一个隐藏细节：默认模型还没切

论坛帖子里 OpenAI 工程师提到一句话：Playground 目前默认还是 gpt-realtime-2，2.1 已经可用但不是默认。这是很典型的灰度节奏——先放出来给开发者压测，等一两周社区没爆大问题，再切默认。

所以现在这个时间点接入 2.1 有个小福利：早期用户能拿到相对空闲的推理集群，实际延迟往往比公告数字更好看。等切默认之后，流量涌进来，p95 会向公告值回归。

另外知识截止日期两个模型都是 2024 年 9 月 30 日，跟 GPT-2 一致，没有更新。这个不算意外——Realtime 模型的核心竞争力是语音特性，不是知识新鲜度，需要新知识走工具调用即可。

竞品对标：Anthropic 和 Google 得跟

把节奏拉长看：

• 5 月：GPT-Realtime-2 带 GPT-5 级推理进语音，context 从 32K 拉到 128K
• 7 月：2.1 系列延迟砍 25%，mini 版本加推理

OpenAI 在语音 Agent 这条线上是季度节奏迭代，每次都能拿出可量化的硬指标。Anthropic 的 Claude 目前语音这块基本是缺席状态，Gemini Live 有 Google 全家桶生态优势但延迟和指令遵循一直是短板。

真正有意思的对比是成本/延迟/推理三角。gpt-realtime-2.1-mini 把这三个维度同时往下压——在过去这三者只能选两个。谁能在 Q3 拿出对标产品，谁就还留在牌桌上；拿不出的，语音 Agent 这个市场就基本让出去了。

给开发者的实操建议

1. 正在用 GPT-Realtime-2 的项目：直接把 model 参数改成 gpt-realtime-2.1，其他不用动。字母数字识别、噪声处理、打断行为的提升几乎是免费拿到的
2. 新项目起步：默认先跑 mini + low 推理档，用真实流量测 p95，只有指令遵循或工具调用出问题再往上加档位
3. 成本敏感场景：把系统 prompt、常用工具描述、角色设定全部塞进 session 前置区，最大化缓存命中，音频缓存输入价差 80 倍不用白不用
4. 别信平均延迟：上线前一定要打 p95、p99 曲线，长尾请求是语音 Agent 的用户流失主因

最后一句判断：这次更新不是那种「今晚必须写文章」的爆炸性发布，但它是把语音 Agent 从「demo 惊艳、生产翻车」推向「可以正经上量」的关键一步。做这块业务的团队，这周就该把 2.1 的评估任务排进 sprint。

参考来源

• IT之家：OpenAI 更新 2.1 系列 GPT Realtime AI 模型，p95 延迟至少降低 25% - 国内媒体对本次发布的完整报道，包含定价与能力细节