AI 快讯讯飞把音频大模型做成了API
产品更新

讯飞把音频大模型做成了API

2026-11-12T15:03:17.057Z
讯飞把音频大模型做成了API

SparkAudio 1.0 今日正式开放 API,支持 99 种语言、202 种方言,并将转写、翻译、情感与环境音理解统一进同一模型。它真正有价值的地方,不是语种数字,而是让开发者跳过传统语音级联系统。

讯飞把音频大模型做成了API

科大讯飞今天正式开放 SparkAudio 1.0 API,开发者已经可以在讯飞开放平台直接接入这款语音基座大模型。它支持文本、语音两种输入,输出目前以文本为主,覆盖语音转写、多语言翻译、202 种方言识别、环境音理解、说话人分离、情感分析和复杂音频问答等任务。(xfyun.cn)

SparkAudio 1.0 是一款直接从音频中提取语言、情绪、说话人和环境信息的原生音频理解模型。

这次更新真正值得关注的地方,不是讯飞又增加了一个语音识别接口,而是今年 9 月仍处于 Preview 和体验阶段的 Spark-Audio-1.0,终于从“可以试玩的模型”变成了“能够嵌入产品的基础设施”。对于开发者来说,API 上线远比发布会上的跑分更重要:不能稳定调用、不能计算成本、不能接入生产链路的模型,再强也只是 Demo。

SparkAudio 1.0 从语音输入到转写、翻译、情绪识别和环境音理解的能力示意图

不再只是把声音变成文字

原生音频理解的核心,是模型直接处理声音,而不是先生成文字再猜测声音里发生了什么。

过去绝大多数语音应用采用级联系统:自动语音识别模型先把录音转成文字,再由大语言模型总结、翻译或回答问题;如果需要识别说话人、情绪和环境音,还要额外挂接声纹、情感分类、音频事件检测等模块。

这种方案成熟、便宜,也容易排查问题,但它天然会丢信息。

例如,一名客服用户说“你们这个服务真不错”,单看文字可能是正面评价;如果原始语音带着明显讽刺语气,真实意图可能完全相反。又比如会议录音里有人说“先别出去”,同时背景传来火警警报,传统转写系统通常只能保留这五个字,而原生音频模型有机会把环境声音纳入判断。

级联系统的另一个问题是错误会逐级放大。第一步把方言识别错了,后面的摘要、翻译、情绪判断就会建立在错误文本上;说话人分离出现错位,又会进一步破坏会议纪要的归属关系。多个模型串联还意味着多次网络请求、重复编解码和更高的端到端延迟。

SparkAudio 1.0 试图把这些任务统一到一次模型推理中。输入可以同时包含文本提示词和音频,模型直接返回文本结果;开发者可以让它转写,也可以让它判断说话人、分析情绪、翻译内容,或者回答“录音中有几个人”“背景里发生了什么”这类问题。

这相当于把过去由多个语音组件拼成的流水线,压缩成一个能够统一理解上下文的模型。它不会让所有传统语音模块立即消失,但会显著降低复杂语音产品的搭建门槛。

99 种语言只是表面,202 种方言更关键

SparkAudio 1.0 的覆盖范围是 99 种语言和 202 种方言,其中方言能力比语言数量更有商业价值。

英语、普通话和日语识别已经是高度竞争的成熟市场,主流云厂商和开源模型都能提供可用结果。真正困难的是口音、方言、多人混说、低音量和高噪声场景,这些场景的数据分布更碎,标注成本更高,却大量存在于客服、汽车、医疗和政务业务中。

以智能客服为例,用户不会按照测试集的方式,用标准普通话、稳定音量和完整句子描述问题。真实通话里会出现四川话与普通话混说、背景电视声、信号压缩、老人低声表达,以及客服人员的插话。如果模型只能在干净录音中取得漂亮成绩,它对企业的实际价值有限。

SparkAudio 1.0 的技术报告显示,模型由一个 6.5 亿参数的稠密音频编码器和一个 30B-A3B 的 MoE 大语言模型组成,共使用约 1300 万小时音频及大规模文本数据训练。模型从音频编码器预训练、音频与语言模型联合训练到后训练,均运行在包括昇腾 910B、海光 BW1000 在内的国产计算基础设施上。(arxiv.org)

30B-A3B 的含义是,模型总参数规模约为 300 亿,但每次推理只激活约 30 亿参数。MoE,也就是混合专家架构,是一种按照输入内容动态调用部分“专家”参数的模型结构,它试图在模型容量与推理成本之间取得平衡。

这套架构并不追求图像、视频、语音全部通吃,而是把算力集中在语音识别、音频理解和对话上。相比全能型多模态模型,垂直音频模型的优势是可以用更小的激活参数覆盖更多方言和复杂声学条件;代价则是产品边界更窄,无法直接承担视觉理解任务。

跑分有亮点,但不能说全面领先

SparkAudio 1.0 在中英文识别和语音交互上表现突出,但复杂音频推理仍明显落后于头部模型。

技术报告公布的公开基准结果显示,SparkAudio 1.0 在 FLEURS 中文测试集取得 1.88% 的字符错误率,低于 Qwen3.5-Omni-Flash 和 Qwen3.5-Omni-Plus 的 2.90%,也低于 Gemini 3.1 Pro 的 3.60%。在 FLEURS 英文测试中,它取得 2.25% 的词错误率;在 LibriSpeech clean 子集上,词错误率为 1.08%。(arxiv.org)

| 公开测试 | 指标 | SparkAudio 1.0 | Qwen3.5-Omni-Flash | Qwen3.5-Omni-Plus | Gemini 3.1 Pro | |---|---:|---:|---:|---:|---:| | FLEURS 中文 | CER,越低越好 | 1.88% | 2.90% | 2.90% | 3.60% | | FLEURS 英文 | WER,越低越好 | 2.25% | 3.70% | 3.20% | 2.70% | | LibriSpeech clean | WER,越低越好 | 1.08% | 1.30% | 1.11% | 3.36% | | KeSpeech 方言 | CER,越低越好 | 4.71% | 4.47% | 3.46% | 23.67% | | VoiceBench | 分数,越高越好 | 90.35 | 87.80 | 93.10 | 88.90 | | MMAR 音频推理 | 准确率,越高越好 | 57.90% | 74.00% | 80.00% | 83.70% |

这组数据说明,讯飞在识别准确率上的优势是真实存在的,但“语音识别强”不能直接等同于“音频智能全面领先”。

在 KeSpeech 方言测试中,SparkAudio 1.0 的字符错误率为 4.71%,不及两个 Qwen3.5-Omni 版本;在考察复杂语音、声音和音乐推理能力的 MMAR 上,它只有 57.90%,与 Gemini 3.1 Pro 的 83.70% 相差 25.8 个百分点。技术报告也明确承认,模型在指令遵循和复杂音频推理方面仍有提升空间。(arxiv.org)

另一方面,SparkAudio 1.0 在低音量语音测试中的字符错误率为 17.17%,Qwen3.5-Omni-Flash 为 23.62%,相对错误率下降约 27.3%;但在高噪声测试中,它与 Qwen3.5-Omni-Flash 的差距只有 0.9 个百分点,而且两者错误率都接近 40%。这意味着它对“小声说话”的处理有明显优势,但极端噪声依然是未解决的问题。

因此,更准确的判断是:SparkAudio 1.0 已经进入主流音频模型第一梯队,优势集中在中英文识别、多语言覆盖、低音量语音和本土应用适配,而不是在所有音频任务上压倒竞品。

API 已经具备生产接入的基本形态

SparkAudio 1.0 API 采用 WebSocket 双向事件流,适合持续上传音频并按任务触发模型推理。

目前接口地址为 wss://tokens.xf-yun.com/omni/v1/realtime,输入音频要求为 16kHz、16bit、单声道,支持 PCM 和 WAV。单次追加音频最长 300 秒,一次会话累计可处理 1800 秒,也就是 30 分钟音频;单个会话最多支持 40 轮推理,最长可维持 120 分钟。(xfyun.cn)

| API 项目 | 当前规格 | |---|---| | 连接协议 | WebSocket / WSS | | 输入模态 | 文本、音频 | | 输出模态 | 文本 | | 音频采样率 | 16kHz | | 音频位深 | 16bit | | 声道 | 单声道 | | 音频格式 | PCM、WAV | | 单次追加上限 | 300 秒 | | 单会话音频上限 | 1800 秒 | | 单会话推理上限 | 40 轮 |

需要注意的是,这个接口目前不会自动执行 VAD 断句。VAD 是语音活动检测,即自动判断用户什么时候开始说话、什么时候停止说话。SparkAudio 1.0 要求客户端主动提交音频并触发推理,因此开发者仍需要自行处理录音切片、静音检测和交互时机。

这不是一个可以忽略的工程细节。在车载助手或实时客服里,如果客户端切得太短,模型缺少上下文;切得太长,用户又会感到反馈迟钝。原生音频模型减少了后端模型数量,但并没有替开发者解决所有实时语音交互问题。

价格不算贵,真正成本要看音频如何折算 Token

SparkAudio 1.0 采用 Token 套餐计费,当前个人和企业认证用户均可领取免费额度。

官方产品页显示,个人认证免费包包含 200 万 Token,企业认证免费包包含 500 万 Token,并发均为 1 路,有效期为一年。正式套餐从 2.5 亿 Token、3000 元起,最大公开套餐为 40 亿 Token、24000 元。

| 套餐 | Token 数量 | 并发 | 价格 | 折算每百万 Token | |---|---:|---:|---:|---:| | 个人免费包 | 200 万 | 1 路 | 0 元 | 0 元 | | 企业免费包 | 500 万 | 1 路 | 0 元 | 0 元 | | 套餐一 | 2.5 亿 | 5 路 | 3000 元 | 12 元 | | 套餐二 | 5 亿 | 5 路 | 5000 元 | 10 元 | | 套餐三 | 10 亿 | 5 路 | 8000 元 | 8 元 | | 套餐四 | 20 亿 | 5 路 | 14000 元 | 7 元 | | 套餐五 | 40 亿 | 5 路 | 24000 元 | 6 元 |

单看每百万 Token 的价格并不高,而且购买规模越大,单位价格从 12 元降至 6 元,降幅为 50%。但音频模型的成本不能只看文本模型式的 Token 单价,真正决定账单的是一分钟音频会被折算为多少输入 Token、不同音频长度和任务会产生多少输出 Token,以及业务需要多少并发。

对于会议纪要和离线内容审核,5 路并发可能已经够用;对于大规模呼叫中心,5 路几乎没有实际意义,企业仍然需要申请更高并发或采用定制方案。因此,公开套餐更像是开发和中小规模生产环境的入口,而不是大型语音业务的最终价格。

哪些产品最值得接入

SparkAudio 1.0 最适合那些既需要转写,又依赖方言、情绪或环境信息的产品。

第一类是智能客服。模型可以在转写之外分析用户情绪、区分多个说话人,并结合上下文判断投诉意图。传统方案通常要把 ASR、声纹和情感模型分别部署,SparkAudio 1.0 有机会把链路缩短。

第二类是汽车座舱。车内存在导航播报、乘客交谈、音乐和道路噪声,单纯语音转文字并不足以支撑自然交互。原生音频理解可以帮助系统区分驾驶员指令、乘客对话与背景声音,但高噪声错误率仍意味着它不能完全替代前端降噪和麦克风阵列。

第三类是跨语会议。99 种语言覆盖、说话人分离和语音翻译可以组合成统一的会议处理流程。不过,公开测试显示其 FLEURS 中英互译 BLEU 分数仍低于 Qwen3.5-Omni-Plus,专业术语和长会议场景仍需结合词表、上下文提示与人工校对。

第四类是内容审核和媒体分析。相比只检查转写文本,原生音频模型还能关注爆炸声、哭声、辱骂语气或音乐内容,为短视频和直播审核补充非语言信号。

医疗病历同样是潜在场景,但也是风险最高的场景。方言识别和多人对话能力可以降低录入负担,模型输出却不应未经确认直接进入诊疗记录;药品名称、剂量和否定表达一旦识别错误,后果远高于普通会议纪要。

讯飞终于把技术优势变成了开发者产品

SparkAudio 1.0 API 的意义,是科大讯飞开始把长期积累的语音能力重新封装为大模型时代的统一接口。

讯飞在传统语音识别、方言数据和行业客户上有明显积累,但过去的能力往往分散在多个产品和接口中。开发者要分别寻找实时转写、方言识别、语音翻译和情感分析服务,再自行拼成完整系统。

SparkAudio 1.0 把这些能力放进同一个音频语言模型,产品形态比单独增加一个更准确的 ASR 接口更有想象力。它让开发者可以围绕“理解一段声音”设计产品,而不是围绕“调用几个语音模块”设计架构。

它当然还不是一个没有短板的全能模型。输出仍以文本为主,不能直接生成自然语音;复杂音频推理与 Qwen3.5-Omni-Plus、Gemini 3.1 Pro 仍有距离;实时交互所需的 VAD、打断检测和播放控制也需要应用层自行完成。

但从今天开始,SparkAudio 1.0 已不再只是国产算力训练、99 种语言和 202 种方言组成的发布会数字。API 上线意味着开发者终于可以把这些能力放进客服、汽车、会议、医疗和内容平台,测试它究竟能不能在真实噪声、真实方言和真实成本约束下工作。

这才是一次产品更新真正开始产生价值的时刻。

参考来源

相关推荐

查看全部