美团把万亿参数模型LongCat-2.0扔了出来,还带着国产卡推理代码

美团7月6日开源LongCat-2.0,1.6T总参数、平均激活48B的MoE模型,主打Agentic Coding。SWE-bench Pro上59.5分反超Gemini 3.1 Pro和GPT-5.5,还是业界首个在五万卡国产算力集群上跑通全流程的万亿模型。
今天(7月6日),美团把 LongCat-2.0 正式扔了出来——1.6T 总参数、平均激活约 48B 的 MoE 模型,权重、多精度版本、国产算力推理代码一次性全部开源。
严格意义上讲,这不是首发。6月30日 LongCat-2.0 就已经宣布发布,此前它以"Owl Alpha"代号在 OpenRouter 上灰度测试了一阵子,据美团自己披露,月调用量已经进到了全球前三,仅次于 Hermes 和 Claude Code。今天这一波是把训练成果和国产卡的推理优化代码打包放出,节奏上明显是憋着一次大动作。

先看结论:这个模型到底强不强
直接看它自己晒出的编程能力分数:
- SWE-bench Pro:59.5,压过 Gemini 3.1 Pro(54.2)、GPT-5.5(58.6)、Claude Opus 4.6(57.3)
- SWE-bench Multilingual:77.3,和 Claude Opus 4.6(77.8)打平
- Terminal-Bench 2.1:70.8,真实终端指令交互
- BrowseComp:79.9、RWSearch:78.8、FORTE:73.2
这个成绩单相当扎眼。SWE-bench Pro 是今年公认最难啃的工程类评测,能反超 GPT-5.5 和 Claude Opus 4.6 这个组合的开源模型此前几乎没有。当然,跑分归跑分,实际使用体感还得看社区两周内跑起来的反馈,但至少美团这一次没有把牌打歪。
值得单独说一下的是 Terminal-Bench 2.1 的 70.8——这个基准考察的是模型在真实终端里连续执行命令、遇到报错能不能自己纠错的能力,是 Agentic Coding 落地最硬的一关。之前只有闭源阵营的少数几款能过 70。
架构:为 Agentic Coding 定制的三件套
LongCat-2.0 的架构思路很明确——不是做一个"什么都能"的通用模型,而是围绕 Agentic Coding 场景死磕。核心有三个东西:
1. LongCat Sparse Attention(LSA)
原生支持 1M 上下文。传统 dense attention 在 100K 之后就开始"选择性失忆",LSA 把计算复杂度从平方级压到线性级,思路上和 DeepSeek 之前提的 NSA 类似——不再"逐字读",而是有选择地读关键区块。
对 Agent 场景意味着什么?一个中型项目的完整代码库(假设 30 万行左右)终于能一次性塞进上下文里,Agent 可以"看到"整个项目结构再动手,而不是靠 RAG 拼拼凑凑。这是过去半年 Agentic Coding 最卡脖子的地方。
2. 零计算专家 + ScMoE
动态激活范围 33B~56B。这个设计的关键洞察是:代码任务里 token 的复杂度差异极大。写一句 import numpy as np 和推导一个动态规划状态转移方程,需要的"脑力"完全不是一个量级。
零计算专家的做法是,简单 token 直接路由到零专家,跳过实际计算和不必要的通信;复杂 token 才动用完整的专家资源。这个思路 2024 年底就有论文提出,美团这次是把它推到万亿规模并且真正跑起来了。
3. MOPD 架构:Agent / Reasoning / Interaction 三组专家
- Agent Experts:专攻工具调用和自主纠错
- Reasoning Experts:数学与 STEM 推理
- Interaction Experts:指令遵循和交互体验
把"能力"显式地分到不同专家组里,这个做法在业界还不算主流,多数 MoE 是让路由自己学。美团这套设计相当于给路由加了归纳偏置,对不对暂时不好说,但从跑分看至少没坏事。
4. N-gram Embedding
在 token 级表示上引入 n-gram 信息,对代码里的变量名、函数名这类"复合语义单元"的理解会更细腻。
真正的大事:五万卡国产集群跑通了万亿模型
跑分之外,LongCat-2.0 更值得注意的一件事,是它是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型。
预训练超过 30T tokens,稳态日吞吐 1T tokens/day。美团团队从 2023 年就开始摸国产卡,这次给出了几个关键数字:
- 稳定性:卡间通信异常处理、弹性扩缩卡、自动故障恢复,月均日故障率降低 70%+
- 正确性:确定性算子、Bitwise 一致性验证
- 效率:训练 MFU 提升 1.5 倍
对国内 AI 圈来说,这个信号比模型本身更重要。过去两年一直有个悬而未决的问题——国产卡到底能不能撑起万亿级 MoE 的从零训练?此前公开跑通的案例,大多集中在千亿参数以下,或者是基于其他模型的继续训练。美团这次把"预训练 + 推理"两头都在国产集群上跑完了,等于给行业一个明确的答案。

开源力度:这次真挺大方
多精度版本一次给全:
- BF16:主流高端卡首选
- FP8:新一代硬件的甜蜜点
- INT8:显存受限场景救命
更狠的是,针对国产算力芯片深度优化的推理代码同步开源。这意味着不用等社区反向工程,拿到就能在存量国产卡上跑。对企业用户来说,这解决了一个巨大的痛点:过去开源万亿模型往往只有"权重",没有"能真跑起来的部署方案",尤其是国产卡场景基本靠自己摸索。
推理侧的优化包括:
- 大规模专家并行聚合访存带宽,支撑万亿 MoE 的低延迟解码
- 零计算专家融入 EP 通信流程,路由到零专家的 token 直接跳过传输
- 通信、Attention、GEMM 核心算子的调度优化
- 提前下发 + 权重预取降低等待开销
和竞品比,LongCat-2.0 定位在哪
横向看一下当前开源阵营:
| 维度 | LongCat-2.0 | DeepSeek 最新 | Qwen 3 Max | |------|-------------|---------------|------------| | 总参数 | 1.6T | ~700B 级 | ~1T 级 | | 上下文 | 1M | 128K+ | 256K | | SWE-bench Pro | 59.5 | 55 左右 | 56 左右 | | 主打场景 | Agentic Coding | 通用推理 | 通用+多模态 | | 国产卡推理 | 官方开源 | 需自行适配 | 需自行适配 |
LongCat-2.0 的差异化很清晰:不追求全能,就死磕 Agentic Coding,同时把国产算力这件事做到位。这个策略对了——通用榜单第一名的位置太拥挤,倒不如把一个足够大的细分场景做深。
落地场景:不只是写代码
美团自己给出的几个内部用例挺有意思:
- AI SQL Agent:业务人员自然语言查数据,模型自动完成意图理解、查询规划、结果解读
- 企业级复杂任务:多步骤规划 + 工具调用 + 长程检索
- 代码重构:31 万行代码的 AI 重构实践(美团技术团队之前发过复盘)
"Agentic Coding"这个词现在被用得有点滥,但 LongCat-2.0 的定义相对准确——不是 Copilot 式的行内补全,而是能拿到一个模糊的需求,自己规划、自己调工具、自己纠错、自己收尾的完整代理循环。1M 上下文 + Terminal-Bench 70+ 这两个能力叠加,才配得上这个说法。
一些开发者关心的实操问题
跑起来要多少卡? 万亿 MoE 的推理不便宜。BF16 全量部署需要至少 8 张 80G H 系列卡;FP8 可以压到 4 张;INT8 版本理论上 2-3 张就能起,但延迟会有代价。国产卡的具体配置以美团开源仓库的推荐为准。
Claude Code 兼容吗? 官方明确提到兼容 Claude Code 等主流开发工具的接口,这意味着现有的 Agent 工作流基本可以无缝迁移。
OpenAI Hub 这边,LongCat-2.0 我们会在权重和推理链路稳定后接入,届时可以和 GPT-5.5、Claude Opus 4.6、Gemini 3.1 Pro 一起用同一个 Key 直接调,方便做横向对比测试。想立刻上手的开发者,也可以直接从美团开源仓库拉权重自部署。
值得关注但也别急着捧
最后说点冷静的判断:
- 跑分好看,但 SWE-bench 系列一直有"过拟合"嫌疑,等社区跑一周私有测试集再下定论
- 1M 上下文的"有效"利用率还需要验证,不是所有 sparse attention 都能在超长距离上保持精度
- 万亿模型的推理成本不是所有团队都吃得起,中小玩家可能还是会选 100B 级别的
- 国产卡训练跑通是里程碑,但生态成熟度和 CUDA 差距仍在
话说回来,一家外卖公司的 AI 团队,用国产算力从零训练出万亿参数模型、在编程评测上反超 GPT-5.5——这件事本身,值得所有人认真看一眼。
参考来源
- IT之家:美团万亿参数大模型 LongCat-2.0 开源,同步开放国产卡推理代码 - LongCat-2.0 开源核心信息与多精度版本说明
- 知乎:美团 LongCat-2.0 正式发布:在国产算力集群上完成全流程训练与推理的万亿参数模型 - 完整技术架构、训练细节与评测数据



