Token狂飙，MaaS缺一把尺

中国大模型产业正在快速跨过“有没有人用”的阶段，开始面对“服务能不能稳定交付”的问题。

10月24日，据中国信通院最新发布的《大模型词元服务性能监测报告（2026年）》，2026年6月国内词元日均消耗量约为500万亿，是2025年12月的近4倍。与此同时，8月国内大模型服务平均每秒输出词元数达到78.23个，较2025年均值翻倍，但仍低于国外典型模型的112.82个。

这组数据真正值得关注的地方，不只是Token又涨了多少，而是大模型正在成为一种高频、持续、可计量的基础设施。调用规模进入每天数百万亿Token后，单看模型榜单、单位价格或者厂商公布的峰值速度，已经不足以支持企业选型。

MaaS下一阶段的核心竞争，不是谁的Token标价最低，而是谁能在真实负载下持续交付低时延、高吞吐和可预测成本。

半年近四倍，Token开始成为AI产业的用电量

Token是大模型切分、处理和计量信息的基本单位，但一个Token并不固定等于一个汉字或一个单词。 不同分词器、模型架构和多模态编码方式都会改变Token数量，因此Token更接近云计算时代的CPU时长或网络流量：它未必直接代表业务价值，却能反映模型服务的实际活跃程度和基础设施压力。

MaaS是通过云平台提供模型调用、推理资源、评测工具和运营能力的模型即服务模式。 企业无需自行采购GPU、部署推理框架和维护模型版本，即可使用大模型能力；平台则按照Token、请求次数、并发额度或包周期资源计费。

中国信通院披露的500万亿Token日均消耗量，意味着按这一速度简单年化，全年处理规模将达到182500万亿Token，也就是18.25京Token。这个年化数字不能直接当成2026年全年结果，但它足以说明6月时点的基础设施负载已经进入新的数量级。

公开数据还显示，2026年3月国内日均Token调用量已超过140万亿。若将这一数据与6月的500万亿放在同一统计口径下观察，三个月增幅约为257%，即增长到原来的3.57倍。不过，统计机构可能在平台覆盖范围、内部调用是否计入、多模态Token折算方式等方面采用不同口径，因此这一计算更适合用于观察趋势，而不应被当成严格的市场份额结论。

不同机构公布的Token规模不能直接横向相除。 IDC曾预计2026年中国MaaS市场全年Token消耗量约为40000万亿，而中国信通院披露的6月日均数据年化后达到182500万亿，两者相差超过4倍。更合理的解释不是其中一个数字“算错了”，而是前者可能侧重公有云MaaS商业市场，后者覆盖更广泛的国内调用活动；是否包含免费调用、企业内部流量、模型厂商自有应用、输入Token、输出Token及多模态折算，也会显著改变结果。

这恰好暴露出当前Token经济的第一个问题：行业不仅缺少性能标尺，也缺少统一的统计口径。如果同一个“Token调用量”在不同报告里代表不同范围，那么调用规模、市场份额和单位成本都可能被误读。

Agent和多模态正在改变Token消耗结构

Agent是能够围绕目标进行规划、调用工具、读取结果并反复执行任务的智能体系统。 与一次提问、一次回答的聊天机器人相比，Agent完成一个任务往往需要多轮模型推理，还会读取网页、数据库、代码仓库和历史上下文，因此单次任务的Token消耗可能达到普通对话的10倍乃至100倍。

Token增长因此不完全等于用户数量增长。一个月活跃用户数量不变的应用，只要从简单问答升级为检索增强生成、深度研究或多智能体协作，单次任务消耗就可能迅速扩大。模型上下文从数万Token扩展到数十万乃至更高后，应用也更愿意一次性塞入合同、会议记录、代码库和业务数据。

多模态模型同样在放大Token消耗。图像、音频和视频需要转换为模型可以处理的离散表示，一段视频涉及大量连续帧，即使平台不会向用户展示所有内部Token，其推理成本仍远高于短文本对话。视频生成、实时语音助手、智能汽车和AI眼镜等场景的扩张，会让Token增长速度明显高于传统聊天产品。

企业工作流则进一步提高了调用频率。过去员工可能手动发起一次总结请求，现在客服质检、合同抽取、商品描述生成和代码审查可以在后台自动运行，每新增一条工单、文档或代码提交，系统都会触发模型调用。大模型由前台工具变成后台流程后，Token消耗不再依赖用户主动打开聊天窗口。

这也意味着，500万亿Token不能简单理解为500万亿份有效产出。重复上下文、无效重试、过长提示词、低质量回答和失控的Agent循环都会制造Token消耗。对企业来说，真正重要的指标应该是完成一个合格任务需要多少Token、多少时间和多少钱，而不是单纯追求调用量。

吞吐翻倍了，但国内仍慢约31%

TPS是模型每秒输出Token数量，用于衡量回答生成阶段的吞吐速度。 TPS越高，用户看到文本连续出现的速度通常越快；对于代码生成、长报告和批量内容生产，TPS会直接影响等待时间和单位时间内可完成的任务数。

TTFT是从请求发出到返回首个Token的时间，用于衡量模型开始响应的速度。 TTFT更影响用户对“卡不卡”的直观感受，搜索问答、语音交互和在线客服通常比离线批处理更关注这一指标。

中国信通院基于2026年1月至8月的监测数据，对调用成功率、TPS、TTFT、稳定性、价格和上下文窗口等维度进行了分析，并比较了原厂官方平台与第三方平台提供的DeepSeek、Qwen、GLM、Kimi等模型服务。

| 性能指标 | 对比基准 | 2026年8月结果 | 变化幅度 | 需要注意的口径 | |---|---:|---:|---:|---| | 国内平均TPS | 2025年均值38.25个/秒 | 78.23个/秒 | 增长104.5% | 衡量输出阶段速度，不代表完整请求耗时 | | 国外典型模型平均TPS | 2025年12月51.35个/秒 | 112.82个/秒 | 增长119.7% | 样本模型与国内组并不完全相同 | | 国内平均TTFT | 2025年均值0.78秒 | 1.26秒 | 增加61.5% | 数值越低越好，受输入长度与排队影响明显 | | 国外典型模型平均TTFT | 2026年4月1.04秒 | 2.08秒 | 增加100% | 基准月份不同，不能直接比较增幅高低 |

国内大模型输出速度已经翻倍，但与国外典型模型相比仍有30.66%的差距。 以8月数据计算，国内平均TPS为国外的69.34%；换成生成1000个Token的长回答，若暂不考虑首词等待，国内平均需要约12.78秒，国外平均需要约8.86秒，相差约3.92秒。

这个差距对短问答可能不明显，对长代码、研究报告和批量内容生成却会被成倍放大。一个需要输出10000个Token的任务，按照平均TPS估算，国内服务仅生成阶段就需要约127.8秒，国外典型服务约88.6秒，差距接近39秒。

不过，TPS并不是越高越好。平台可以通过连续批处理、推测解码、量化和更激进的并发调度提高吞吐，但不同优化方案可能影响单请求时延、输出一致性甚至模型质量。若测试没有固定模型版本、采样参数、上下文长度和输出长度，单独比较TPS很容易变成“跑不同赛道却看同一块秒表”。

首词时延变长，不一定代表基础设施退步

2026年的大模型服务出现了吞吐上升、首词时延同时增加的现象。 国内平均TTFT从2025年的0.78秒升至今年8月的1.26秒，增加0.48秒，增幅为61.5%；国外典型模型从4月的1.04秒升至8月的2.08秒，增加1.04秒，增幅达到100%。

首词时延上升不能简单归因于平台性能退化。模型参数规模扩大、输入上下文增长、并发请求增多以及推理模型增加思考过程，都会让返回第一个Token之前的预填充和调度工作变重。

长上下文尤其容易拖慢TTFT。模型在开始输出前，通常需要先处理用户输入的全部上下文；如果请求从2000个输入Token增加到20万个，即使输出长度没有变化，首词等待也可能明显延长。因此，一个仅用短提示词测得的TTFT，不能代表合同审查、代码仓库分析和深度研究等真实场景。

推理模型还带来了新的计量难题。部分模型会在最终答案前进行较长的内部推理，如果平台隐藏了推理Token，用户看到的TTFT、可见TPS和账单Token便可能无法对应。统一标尺需要明确推理时间是否计入首词时延、隐藏Token是否计费，以及不同平台是否使用相同的模型思考强度。

平均值同样会掩盖风险。一个平台平均TTFT为1秒，并不意味着每次都能在1秒内响应；如果高峰期5%的请求需要等待10秒，它对实时客服的实际影响可能远大于平均值所展示的差异。企业选型至少需要查看P50、P95和P99分位数，而不是只看月均数据。

同一个模型，在不同平台上可能是两种体验

模型名称相同不等于服务性能相同。 同一款DeepSeek、Qwen、GLM或Kimi模型部署在不同MaaS平台后，可能采用不同精度、量化方案、推理引擎、GPU型号、批处理策略和限流规则，最终表现会出现明显差异。

第三方平台的价值也不只是托管模型。平台需要完成模型版本管理、弹性扩容、故障迁移、内容安全、日志观测和计量结算，其中任何一个环节都可能影响最终体验。模型本身决定能力上限，推理系统和平台工程则决定企业能否稳定触达这个上限。

自动扩缩容是性能差异的重要来源。平台为了提高GPU利用率，可能在低峰期缩减实例；突发请求到来后，冷启动和排队会推高TTFT。高峰期若采用更大的动态批次，整体TPS可能上升，但单个用户需要等待更长时间才能进入批次。

网络位置也会干扰测试结果。客户端到数据中心的连接时间、跨地域网络和TLS握手都可能被计入端到端时延，而平台公布的指标有时只计算服务端推理时间。统一性能测试必须同时给出服务端指标与用户侧端到端指标，否则两个数字可能相差数百毫秒。

MaaS需要的不是一个总分，而是一张性能地图

统一性能标尺的目标不应是给所有MaaS平台排出单一名次，而应是建立可复现、可按场景查询的性能地图。 搜索问答关心首词时延，代码生成关心长输出TPS，Agent关心工具调用成功率与多轮稳定性，离线批处理则更看重总吞吐和单位成本。

一个更有用的MaaS评测体系，至少应覆盖以下六组指标：

| 评测维度 | 建议披露指标 | 解决的问题 | |---|---|---| | 可用性 | 请求成功率、错误码分布、限流率、SLA达标率 | 服务是否真的可用 | | 时延 | TTFT的P50、P95、P99，总请求时长 | 平均速度是否掩盖长尾卡顿 | | 吞吐 | 单请求TPS、并发总TPS、不同输出长度下的TPS | 高并发时是否掉速 | | 稳定性 | 24小时波动、峰谷差、连续调用方差 | 性能能否持续交付 | | 成本 | 输入、输出、缓存、推理Token价格及有效任务成本 | 低单价是否真的省钱 | | 模型条件 | 精确版本、上下文长度、量化精度、采样参数、地域 | 测试结果能否复现 |

并发矩阵应成为统一测试的基础。平台至少需要在1、10、100和1000并发下分别公布成功率、TTFT和TPS，因为单用户测试跑得快，不代表生产环境能够承受流量洪峰。并发升高后，限流、排队与动态批处理才会真正暴露平台能力。

上下文长度也必须分档测试。建议至少设置短上下文、32K、128K和平台标称最大窗口等测试组，并分别固定输出长度。否则，支持百万Token上下文的平台与仅处理短问答的平台放在一起比较，结果没有实际意义。

价格比较则需要从“每百万Token多少钱”升级为“每个有效任务多少钱”。如果平台A价格低20%，但成功率较低、平均需要重试1.3次，或者模型质量不足导致人工返工，其最终成本可能高于单价更贵的平台B。

有效Token可以作为新的辅助指标。有效Token是能够帮助任务达到质量标准的输入与输出Token，而不是所有被模型处理或生成的Token。企业可以用“总费用÷通过质量验收的任务数”衡量真实成本，并结合任务准确率、人工修改时间和业务转化率判断ROI。

统一标尺会改变MaaS竞争方式

标准化首先会压缩只报峰值数据的营销空间。 如果行业统一要求公布固定模型版本、固定上下文、固定并发和P99时延，平台就很难再用实验室单请求峰值代表日常生产性能。

标准化也会让模型路由更有价值。企业可以根据实时价格、时延、上下文和质量要求，在多个模型或平台之间动态分配请求。例如实时客服优先选择低TTFT服务，夜间文档处理则选择成本更低的批量推理服务。

可观测性将成为企业采购的重要条件。企业需要知道每个请求消耗了多少输入、输出和推理Token，经历了多长排队时间，是否命中缓存，以及错误发生在网络、平台还是模型层。没有这些数据，企业无法优化提示词，也无法判断成本上涨来自业务增长还是系统浪费。

平台锁定问题也会因统一指标而减弱。当不同平台使用一致的性能与计费口径时，企业更容易进行多云部署、故障切换和成本比较。对于金融、制造和大型互联网业务，多平台容灾的重要性往往高于某个模型在单项榜单上领先几分。

Token规模不等于产业价值，交付质量才是

国内日均500万亿Token是AI应用加速落地的强信号，但不是产业成熟的充分证明。 Token可以来自真实生产任务，也可以来自重复上下文、低效Agent循环、免费活动流量和大量未被采用的生成内容。

真正成熟的Token经济需要回答三个问题：每一百万Token完成了多少有效任务，单位任务的综合成本是否下降，以及服务在业务高峰期能否兑现SLA。只有这些指标改善，Token增长才会转化为企业收入、生产效率和云平台的可持续回报。

中国信通院此次将成功率、吞吐、首词时延、稳定性、价格和上下文窗口放进同一套监测框架，方向是对的。它把行业注意力从“模型参数有多大”推进到“服务究竟好不好用”，也开始触及MaaS规模化之后最棘手的可比性问题。

但一套真正有约束力的性能标尺仍需要继续补齐分位数时延、并发测试、模型版本锁定、推理Token口径和有效任务成本。尤其是在Agent和多模态调用成为主要增量后，仅统计文本输出TPS已经无法完整描述服务能力。

MaaS市场的上半场靠模型能力和低价Token吸引开发者，下半场则要靠稳定交付、透明计量和工程效率留住企业。 当每天处理的Token达到数百万亿规模，行业缺的已经不是更多漂亮的峰值数字，而是一把所有平台都愿意接受、企业也真正看得懂的尺子。

参考来源

• IT之家：中国信通院称6月国内词元日均消耗量约500万亿——整理中国信通院《大模型词元服务性能监测报告（2026年）》核心数据，包括Token消耗量、TPS、TTFT及国内外服务对比。