开源 Agent 反攻：Nemotron 3 Ultra 硬刚闭源前沿

开源模型第一次在 Agent 场景真正咬住闭源

7 月 8 日，NVIDIA 和 LangChain 联合放出了一份看起来相当挑衅的成绩单：Nemotron 3 Ultra 在 LangChain Deep Agents 的评测套件上，拿下开源模型中最高的 Agent 任务准确率，同时每次运行的成本大约只有主流闭源模型的十分之一。DeepInfra 和 Baseten 同步上线了托管端点，开发者今天就能把自己的 Agent 代码指过去跑。

这件事之所以值得单独说一说，是因为过去一年多，开源模型在纯对话和代码单轮任务上追得已经很近，但一到多步 Agent、长程规划、工具调用这种真正跑生产的场景，闭源模型仍然拉开一大截。Nemotron 3 Ultra 这次公布的数据，是开源阵营第一次在 Deep Agents 这种偏 real-world 的评测里，把差距压到可以谈判的程度。

关键不在模型，而在 harness

有意思的是，NVIDIA 和 LangChain 都在博客里反复强调一句话：这次没有对模型做任何再训练。

所有的性能提升，来自 LangChain 针对 Nemotron 3 Ultra 重新调过的 Deep Agents harness——也就是围绕模型主循环的那一层 prompt、工具接口、中间件和调度策略。用他们自己的话说，harness 才是决定 Agent 表现的那部分，模型只是发动机，底盘、变速箱、悬挂才决定这台车能不能真正跑长途。

这个说法在业内其实一直有争议。前几年大家更愿意相信 "模型能力决定一切"，harness 只是薄薄一层胶水。但从 GPT-4 之后的实践看，同一个模型在不同 Agent 框架里的表现能差出几十个百分点，尤其是长程任务。LangChain 这次相当于把这件事变成了一个可复现的证据：同样的 Nemotron 3 Ultra，用默认 harness 和调过的 harness，跑同一套评测，结果差异显著到需要单独发博客宣布。

具体调了什么，LangChain 没有全部披露，但从文档看主要包括几块：

• 系统提示词的重构，针对 Nemotron 系列的 reasoning 风格重新写了 planner 和 sub-agent 的指令模板
• 工具描述的规范化，让模型在 tool selection 阶段的犹豫更少、误调用率更低
• 中间件层的容错，包括对格式偏离的自动修复、对失败工具调用的重试策略
• Sub-agent 分工的调整，让 planner 和 executor 之间的信息传递更适配 Nemotron 的 context 使用习惯

说白了，这就是把一个通用 harness 变成了一个专门吃透某个模型脾气的 harness。工程量不大，收益却出奇的高。

Nemotron 3 Ultra 本身：为长程 Agent 而生

回过头看 Nemotron 3 Ultra 这个模型本身，NVIDIA 的定位其实一直很清楚——不是拿去打通用聊天榜单，而是明确瞄准 "long-running agents"。

它的几个设计取向都指向这个方向：

第一，推理链路的效率优化。Agent 场景里，模型不是回答一个问题，而是要在几十甚至上百步里持续做决策。每一步的 latency 和 token 消耗都会被放大。Nemotron 3 Ultra 在推理时做了不少针对性优化，官方给出的数据是在同等准确率下，吞吐量和端到端时间都优于同级别开源模型。

第二，工具调用的稳定性。这是长程 Agent 的死穴。一个 30 步的任务，如果每一步工具调用有 3% 的格式出错概率，最终成功率会低得让人绝望。Nemotron 3 Ultra 在训练数据里显然塞了大量 tool use 样本，实际表现是格式偏离和幻觉调用都比同规模开源模型少一档。

第三，长上下文下的注意力保持。Deep Agents 这种架构会把大量中间状态塞进 context，模型要能在 100K+ token 里准确抓到关键信息。这方面 Nemotron 系列一直做得不错，Ultra 版本进一步收紧了长上下文的检索准确率。

配合 LangChain 的 harness 调优，就构成了这次成绩单的技术底座。

10 倍成本差是怎么来的

博客里那句 "roughly 10x lower cost per run than closed alternatives" 需要拆开看。

10 倍的成本差异不完全来自模型本身的 token 单价。开源模型托管在 DeepInfra、Baseten 这类推理服务上，单价本来就比 GPT-4 类闭源低不少，但也没到 10 倍。真正把差距拉开的是几个因素叠加：

1. 单价本身低 3-4 倍——开源模型在自托管或第三方推理平台上的定价优势
2. token 用量更省——调优后的 harness 减少了无效工具调用和思考回环，同一个任务的 token 消耗直接下降
3. 重试成本更低——工具调用稳定性提升意味着更少的失败重试
4. 并行度更高——Nemotron 3 Ultra 的吞吐特性允许更激进的并行 sub-agent 调度

这几层叠起来才是 10 倍。这个数字对于跑大规模 Agent workflow 的团队意义很直接：一个月几十万美金的推理账单，理论上可以砍到几万。

完整开源栈的信号

把镜头拉远看，这次发布真正的看点不是某一个模型或某一个 harness 的胜利，而是一个完整的开源 Agent 栈开始成型。

LangChain 3 月加入了 NVIDIA 主导的 Nemotron Coalition，之后又发布了企业级 Agentic AI 平台，把 LangSmith、LangGraph、Deep Agents 与 NVIDIA Agent Toolkit、NIM microservices、Dynamo 串到一起。这次 Nemotron 3 Ultra 的 harness 调优只是这个合作的一个具体产出。

对开发者来说，这意味着现在有了一条相对完整、且完全开源的 Agent 生产路径：

• 模型层：Nemotron 3 Ultra（或其他开源模型）
• 推理层：NIM microservices / DeepInfra / Baseten
• 编排层：LangGraph + Deep Agents
• 观测层：LangSmith
• 优化层：NeMo Agent Toolkit

这条链的意义在于，它第一次让 "不依赖闭源大厂 API 也能跑生产级 Agent" 变成一个具体可执行的方案，而不是一句口号。

对国内开发者的实际影响

从国内团队的视角看，这件事有几个值得留意的点：

首先是模型可及性。Nemotron 3 Ultra 是完全开源权重的，可以自己拉下来跑，也可以走各家 API 聚合服务。像 OpenAI Hub 这类平台已经在跟进接入开源前沿模型，一个 Key 直接调 Nemotron、GPT、Claude、Gemini、DeepSeek，兼容 OpenAI 格式，做多模型对比或者 fallback 都方便。

其次是 harness 思路的迁移。就算你不用 Deep Agents，LangChain 这次证明的 "针对特定模型调 harness" 是一个通用方法论。国内团队用 Qwen、DeepSeek、GLM 跑 Agent 的时候，与其抱怨模型能力不够，不如先花时间把 prompt 模板、工具描述、错误处理这几块针对你手上的模型精修一遍，收益往往比换模型大。

第三是成本模型的重估。如果你现在的 Agent 系统跑在 GPT-4 或 Claude 上，账单让你肉疼，那么 "开源模型 + 调优 harness" 这条路值得认真评估一次。10 倍成本差里，就算只吃到 3-5 倍，对预算的影响也非常可观。当然要看具体任务，通用能力密集的场景闭源仍有优势，但长程流程化任务这种 Agent 主场，开源已经到了可以严肃对比的阶段。

一个略微谨慎的判断

最后要说一句冷话。这次发布本质上是 NVIDIA 和 LangChain 各自的 marketing 时刻，评测数据是他们自己的 Deep Agents 评测套件，不是第三方 benchmark。开源模型在 Agent 场景 "追上闭源"这个说法，需要更多独立复现才能成立。

但即使打个折，方向已经很清楚——Agent 时代的技术差距，越来越多地来自 harness 而不是模型本身。当 harness 变成主战场，闭源模型的护城河就没那么好挖了，因为 harness 天然是开源栈更擅长的东西。

从 GPT 时代的 "模型即产品"，到 Agent 时代的 "栈即产品"，游戏规则正在变。这次 Nemotron 3 Ultra + Deep Agents 只是其中一个信号，但足够清晰。

参考来源

• LangChain NVIDIA 集成文档 - LangChain 官方 NVIDIA 集成组件说明，包含 ChatNVIDIA、NeMo Agent Toolkit 优化、Sandboxed Agents 等
• Hugging Face 上的 Nemotron 系列模型 - NVIDIA 在 Hugging Face 的官方主页，可获取 Nemotron 3 Ultra 及相关开源模型权重与使用文档