大模型API价格为何暴跌80%

截至2026年10月26日，OpenAI与Anthropic在过去数月内把部分大模型的API价格下调了50%至80%，LLM推理市场进入新一轮价格下探周期。

这里的“最高降价80%”需要先明确口径：它通常指某个新模型相对上一代同定位模型、某一类Token，或者特定缓存场景的纵向降幅，并不意味着OpenAI和Anthropic的全部模型、输入Token与输出Token都统一打了二折。近期公开价格汇总显示，OpenAI低价模型线的单项降幅最高达到80%；另一些以同日新品和直接前代为基准的报道，则给出最高约50%的降幅。两个数字并不必然矛盾，差别主要来自比较对象和计费项目不同。

这轮降价真正值得关注的地方，不是某一款模型便宜了几美元，而是闭源大模型的定价逻辑正在改变：厂商不再单纯出售“最强能力”，而是把推理效率、延迟、缓存命中率和任务完成成本一起打包竞争。

先看价格：便宜的是Token，不一定是任务

Token是大模型处理文本时使用的基本计量单位，也是多数LLM API账单的计价基础。 英文中一个Token通常约对应四分之三个单词，中文则会因分词器和字符组合而变化，因此“处理一篇文章多少钱”不能只按字数直接换算。

截至目前，Anthropic旧款Claude Haiku 3.5的公开标准价格约为每百万输入Token 0.80美元、每百万输出Token 4美元；当前一代Claude Haiku 4.5约为每百万输入Token 1美元、每百万输出Token 5美元。后者单价反而略高，但它提供的是更新一代能力，这也说明模型定价不能只按名称中的“新旧”判断。

OpenAI近期则通过更便宜的模型档位拉低了预算型市场的价格下限，其中部分新品相对前代同定位产品的单项报价下降最高80%。从产品策略看，OpenAI正在用更密集的模型分层覆盖批处理、客服、信息抽取、代码辅助和复杂Agent等不同负载，而不是让所有请求都跑在旗舰模型上。

| 对比维度 | OpenAI | Anthropic | 对开发者的实际影响 | |---|---|---|---| | 近期部分型号最高降幅 | 最高约80%，取决于比较口径 | 部分新型号和缓存场景明显降价 | 不能把最高降幅套用到全部账单 | | 预算型模型 | 产品线更密集，价格下限通常更低 | Claude Haiku 4.5为1美元/百万输入Token、5美元/百万输出Token | 高频轻任务更适合先从低价档测试 | | 旧款低价模型 | 旧型号可能继续保留，但能力和支持周期不同 | Claude Haiku 3.5约为0.80美元/百万输入、4美元/百万输出Token | 旧模型便宜不等于单位任务成本最低 | | 提示词缓存 | 旗舰模型在高命中场景可获得接近90%的读取折扣 | 高命中场景同样可获得接近90%的读取折扣 | 固定系统提示词和大型代码仓库最受益 | | 成本敏感项 | 输出、推理长度、工具调用和重试 | 长上下文、输出长度、缓存写入和读取 | 标价只是总成本的一部分 |

任务成本是模型完成一次可用结果所消耗的全部费用，而不是单次请求的Token标价。 如果一款便宜模型需要调用三次、反复纠错，另一款贵模型一次完成，那么后者的真实成本可能更低。

举个简化的例子：一个月处理1亿输入Token和2000万输出Token，按Claude Haiku 4.5的标准价格计算，输入费用约100美元，输出费用约100美元，合计约200美元。假设其中80%的输入能够以90%折扣命中缓存，并暂时忽略缓存写入溢价，输入成本会从100美元降至约28美元，总成本降至约128美元，降幅约36%。

这个例子也揭示了一个经常被忽略的事实：即使缓存读取便宜90%，总账单也不会自动下降90%，因为输出Token、首次缓存写入、未命中的动态上下文和失败重试仍按各自规则计费。

原因一：推理效率已经成为模型能力的一部分

推理成本是模型完成前向计算并生成结果时消耗的芯片时间、显存、网络和服务器资源成本。 训练决定模型能做到什么，推理系统则决定厂商能以多低的价格把这种能力卖出去。

过去两年，大模型服务端优化已经从“多放几张GPU”变成一套复杂的系统工程。连续批处理可以把不同用户的请求动态塞进同一批计算；PagedAttention一类显存管理方法可以减少KV Cache碎片；FlashAttention可以降低注意力计算的显存读写开销；推测解码则让小模型先生成候选Token，再由大模型快速验证。

这些技术不会让每一次推理都减少同样比例的成本，但它们会共同提高GPU利用率。对模型厂商来说，单张加速卡每秒能够服务的Token越多，每百万Token的边际成本就越低，价格也就有更大的下调空间。

KV Cache是模型保存历史Token注意力状态的临时缓存，可以避免每生成一个新Token都重新计算完整上下文。 长对话、代码仓库分析和Agent循环高度依赖KV Cache，而高并发环境中的关键问题不是“有没有缓存”，而是缓存能否被高效调度、复用和回收。

OpenAI与Anthropic的降价，本质上也反映了服务端软件对硬件成本的重新摊薄。行业里过去把模型权重视为护城河，现在推理调度、芯片利用率、跨区域容量管理和负载预测同样决定毛利率。

原因二：新模型不一定更大，而是更会分工

模型路由是根据任务难度、延迟目标和成本预算，把请求分配给不同模型的机制。 当前的大模型产品已经不再是一个旗舰模型处理所有任务，而是由小模型、通用模型和高推理模型组成分层系统。

邮件分类、实体抽取、搜索改写和简单代码补全，并不需要每次调用最强模型。厂商可以通过蒸馏、小型化、稀疏专家结构和动态计算，把这些请求交给更便宜的模型；只有复杂规划、数学推理和长链条代码任务才升级到高价档。

这种变化让“平均调用成本”快速下降，却不意味着最昂贵能力的生产成本同步下降80%。更准确的说法是，厂商把过去由旗舰模型承担的大量简单任务，迁移到了能力足够、速度更快的小模型上。

蒸馏是用高能力模型生成的数据或概率分布训练更小模型的方法。 蒸馏后的模型可能在开放式推理上仍弱于教师模型，但在分类、摘要、结构化输出等窄任务中，可以用更少参数达到接近的成功率。

这也是OpenAI预算档产品线更有价格侵略性的原因。低价模型不是旗舰能力的廉价复制品，而是针对高频、可评估任务重新设计的生产工具；Anthropic则继续强调Claude在代码、长上下文和复杂任务中的一致性，两家的价格战因此并非完全同质化。

原因三：缓存正在把“输入价格”变成动态价格

提示词缓存是把重复出现的系统提示词、文档前缀或代码上下文保存下来，并在后续请求中以更低价格复用的计费机制。 对拥有固定系统提示词、同一知识库或同一代码仓库的应用来说，缓存命中率可能比模型基础报价更重要。

一个典型企业Agent可能携带数万Token的工具说明、安全规则和业务文档，但每次真正变化的用户问题只有几百Token。如果这些固定前缀每次都按标准输入价重复计算，长上下文会迅速吞掉预算；如果80%至90%的上下文可以命中缓存，输入成本就会明显下降。

缓存也不是免费的午餐。首次写入通常有单独价格，缓存存在有效期，提示词中任何影响前缀稳定性的改动都可能导致无法命中；如果应用把时间戳、用户ID或随机内容放在提示词开头，理论上的90%折扣可能在实际账单里几乎看不到。

开发团队因此需要改变提示词工程方式：稳定内容放在前面，动态内容放在后面；系统提示词进行版本化；知识库按主题分块；缓存命中率与普通Token消耗分开监控。所谓“便宜模型”，越来越依赖应用架构配合，而不只是厂商报价。

原因四：价格战的目标是锁定工作负载

工作负载锁定是开发者把评测、提示词、缓存和业务流程围绕某个平台建立后，迁移成本逐渐升高的现象。 大模型厂商愿意在早期压低API价格，因为一旦企业把客服、代码审查或Agent流程接入某套模型生态，后续迁移并不只是替换模型名称。

OpenAI和Anthropic争夺的也不再只是聊天机器人用户，而是持续运行的机器流量。人类一天能发出的提示词有限，Agent却可以全天执行搜索、调用工具、生成代码和检查结果；单次Token价格降低后，调用次数可能成倍增加，厂商仍有机会扩大总收入。

这与云计算早期的价格战很像。单次计算越来越便宜，但数据规模、调用频率和业务依赖持续上升，最终客户的年度总支出未必下降。大模型市场同样可能出现“单位价格下降、总账单上涨”的组合。

订阅产品和API产品也不能放在同一套逻辑里理解。订阅套餐类似健身房会员，盈利依赖大量用户没有耗尽理论额度；API则更接近按量计费，厂商可以精确控制每类Token、缓存和工具调用的毛利。近期部分高价订阅套餐收紧额度，同时API单价下降，并不是自相矛盾，而是在重新分配补贴。

原因五：80%降价包含了强烈的营销口径

基准效应是比较对象不同导致降幅看起来显著变化的统计现象。 如果新款低价模型与几个月前的旗舰模型相比，降幅可能达到80%；如果与直接前代的预算型模型相比，降幅可能只有30%至50%。

输入价、缓存读取价和输出价也不能混为一个数字。大多数厂商的输出Token明显贵于输入Token，而推理模型还可能生成用户不可见但会影响计费的内部推理内容；对于代码生成和Agent任务，输出与重试经常才是成本大头。

因此，“每百万Token多少钱”正在变成一个不够完整的指标。更可靠的比较方式应至少包含以下五项：

1. 每百万未缓存输入Token价格；
2. 缓存写入与缓存读取价格；
3. 每百万输出Token价格；
4. 完成任务所需的平均重试次数；
5. 在质量门槛下的任务成功率与延迟。

有效任务成本可以粗略表示为：输入费用加缓存费用，加输出费用，加工具调用费用，再加失败重试费用。 对Agent系统而言，还要计入搜索、浏览器、代码执行、向量检索和第三方数据源成本。

开发者现在应该怎么选

开发者不应因为一次80%的宣传降幅立即迁移全部生产流量。 模型迁移的正确顺序是先固定评测集，再跑影子流量，最后根据任务成功率、P95延迟和每个成功任务成本逐步切换。

第一步是建立自己的价格矩阵。矩阵中至少要区分短问答、长文档、代码生成、结构化抽取和多轮Agent，因为同一个模型在不同上下文长度下的成本结构完全不同。

第二步是优先优化输出和重试。输入Token通常更便宜，也更容易被缓存；输出Token不仅单价更高，还会延长占用算力的时间。限制无效长回答、设置合理终止条件，往往比压缩几十个系统提示词更有效。

第三步是实施模型路由。高确定性的分类和抽取任务可以优先使用低价模型，失败后再升级到更强模型；复杂代码修改和多步骤推理则可以直接进入高能力档，避免因连续失败浪费更多Token。

第四步是监控缓存命中率。只看总Token量无法判断缓存策略是否生效，生产仪表盘应该分别展示普通输入、缓存写入、缓存读取、输出Token和重试次数。

第五步是保留供应商切换能力。OpenAI可能在预算层更便宜，Anthropic可能在某些代码和长上下文任务中以更高成功率抵消单价差异；真正稳妥的架构不是押注永远最便宜的一家，而是让评测结果决定流量分配。

价格还会继续降，但账单未必会

未来一年LLM API的单位Token价格大概率继续下探，但高价值推理不会无限趋近于零。 小模型、批处理和缓存读取仍有明显降价空间，复杂推理、超长上下文、低延迟独占容量和高可靠性服务则会维持溢价。

OpenAI与Anthropic此次最高80%的降价，更像云计算从“昂贵算力”走向“分层商品”的转折点。基础Token会越来越便宜，真正收费的部分将转向推理深度、延迟保障、工具执行、企业安全和工作流黏性。

开发者最终需要关注的也不该是最低单价，而是每完成一个真实任务要花多少钱。只有当模型在相同质量门槛下减少重试、缩短延迟并提高成功率时，这轮降价才真正落进业务利润表；否则，便宜80%的Token完全可能被增长十倍的Agent调用量吃掉。

参考来源

• 知乎：中美大模型定价暗战——梳理API、订阅额度与模型厂商补贴策略之间的差异，并引用SemiAnalysis的相关测算。
• OpenAI tiktoken——OpenAI开源的Token分词工具，可用于理解和测算不同文本的Token消耗。
• Anthropic Python SDK——Anthropic官方SDK仓库，可核对请求响应中的Token使用量及相关能力支持。
• vLLM——高吞吐大模型推理引擎，其PagedAttention和连续批处理机制展示了服务端降低推理成本的关键路径。
• FlashAttention——高效注意力计算项目，用于理解显存读写优化如何提升训练和推理吞吐量。