Inkling 2 Small来了

Thinking Machines Lab 给 Inkling 再加一档小模型

Thinking Machines Lab 近日发布 Inkling 2 Small，为 Inkling 模型家族补上新一代小型成员。距离上一代 Inkling-Small 在 2026 年 7 月 30 日正式亮相只过去约三个月，这家由 OpenAI 前 CTO Mira Murati 创立的 AI 实验室，已经开始沿着“小激活参数、多模态、开放权重”的路线加快迭代。

Inkling 2 Small 是 Thinking Machines Lab 面向低延迟、低推理成本和模型定制场景推出的新一代小型模型。这里的“小型”是相对于旗舰 Inkling 而言，并不意味着它是可以直接塞进消费级显卡的端侧模型。

截至 2026 年 11 月 6 日，Inkling 2 Small 的产品页面已经出现，但官方尚未在现有公开材料中完整披露总参数量、激活参数量、上下文长度、训练计算量和系统化基准成绩。换句话说，这次发布已经明确了产品方向，但还不足以支持外界对模型能力作出最终判断。

这一区别很重要。上一代产品名是带连字符的 Inkling-Small，而新产品页面使用 Inkling 2 Small；在完整模型卡和权重信息公开前，不能直接把 Inkling-Small 的 2760 亿总参数、120 亿激活参数或 Apache 2.0 许可证套用到 Inkling 2 Small 身上。

上一代已经证明：少激活参数不等于弱模型

Inkling-Small 是一款通用多模态开放权重模型，可接收文本、图像和音频输入，并输出文本。它采用混合专家架构，总参数量为 2760 亿，每个 token 只激活约 120 亿参数，官方定位覆盖智能体、工具调用、代码助手、聊天机器人和检索增强生成等开发场景。

混合专家模型（Mixture-of-Experts，MoE）是一类只为每个 token 调用部分专家网络的 Transformer。它像一家拥有大量专科医生的医院：完整专家都要驻场，因此显存仍需容纳庞大的总参数，但一次问诊只调用少数相关科室，因此单次计算量可以显著低于同等总规模的稠密模型。

激活参数是模型处理单个 token 时实际参与计算的参数量。对于 Inkling-Small 来说，2760 亿总参数决定了部署时的主要存储和显存压力，120 亿激活参数则更接近它每一步推理所需的计算规模。

这也是 Thinking Machines Lab 小模型路线的核心：不是简单把网络整体缩小，而是用更低的激活量换取速度和成本，同时保留大规模专家库带来的知识容量。

上一代 Inkling-Small 在 Artificial Analysis Intelligence Index 4.1 中得到 40 分，只比旗舰 Inkling 的 41 分低 1 分。旗舰 Inkling 拥有 9750 亿总参数和 410 亿激活参数，而 Inkling-Small 的总参数和激活参数均不足其三分之一，这组结果说明，训练数据、专家路由和后训练质量可以比单纯堆参数更重要。

Inkling 家族与同档模型怎么比

下面的数据来自上一代 Inkling-Small 模型卡和同期公开评测，作用是为 Inkling 2 Small 提供基线，而不是把旧模型成绩视为新品成绩。

| 模型 | 总参数量 | 激活参数量 | AA Index 4.1 | 输入模态 | 最大上下文 | |---|---:|---:|---:|---|---:| | Inkling 2 Small | 尚未披露 | 尚未披露 | 尚未披露 | 尚未完整披露 | 尚未披露 | | Inkling-Small | 2760 亿 | 120 亿 | 40 | 文本、图像、音频 | 官方标注最高 100 万 token | | Inkling | 9750 亿 | 410 亿 | 41 | 文本、图像、音频 | 100 万 token | | Qwen3.5 397B-A17B | 3970 亿 | 170 亿 | 34 | 以对应模型卡为准 | 以对应部署为准 | | DeepSeek V4 Flash | 2840 亿 | 130 亿 | 40 | 以对应模型卡为准 | 以对应部署为准 | | Nemotron 3 Ultra | 5500 亿 | 550 亿 | 38 | 以对应模型卡为准 | 以对应部署为准 |

这张表说明 Inkling-Small 的主要竞争力不是“参数最少”，而是每 120 亿激活参数对应的综合能力较高。它与激活 130 亿参数的 DeepSeek V4 Flash 同为 40 分，也高于激活 170 亿参数、得到 34 分的 Qwen3.5 397B-A17B，但单一综合指数不能替代代码、工具调用、长上下文和多语言实测。

部分专项成绩甚至出现了小模型反超旗舰的情况。HLE 纯文本测试中，Inkling-Small 得分为 31.6%，Inkling 为 29.7%；使用工具后，两者分别为 47.8% 和 46.0%。这不代表小模型全面更强，却说明改进预训练数据和后训练方案，确实可能抵消一部分规模差距。

Thinking Machines Lab 如果能让 Inkling 2 Small 在维持约 120 亿级激活量的同时继续提高智能体和推理成绩，它会比单纯扩大总参数更有现实价值。开发者真正关心的是完成一个任务需要多少时间、多少显存和多少计算，而不是模型文件看上去有多大。

“Small”依然不是本地小模型

Inkling-Small 的 2760 亿总参数意味着它依然属于数据中心模型。按照未经量化的 BF16 权重每参数约占 2 字节粗略计算，仅权重理论体积就约为 552GB；即便压缩到 4 bit，理论下限仍约为 138GB，而且实际部署还需要路由、缓存、框架和运行时开销。

MoE 的低激活量主要降低计算成本，并不会按同样比例降低权重存储成本。120 亿激活参数听起来接近常见的十几亿或百亿级本地模型，但推理节点仍可能需要多卡服务器或分布式部署，不能把它理解为一张 24GB 显卡就能完整运行的 12B 模型。

上一代 Inkling-Small 使用 NVIDIA GB300 NVL72 系统训练，并提供 BF16 与 NVFP4 等部署形态。Hugging Face 公布的托管配置最高可达到约 160 token/s，但这个数字依赖具体硬件、量化方式、批处理规模和输入长度，不能视为所有部署环境下的固定速度。

Inkling 2 Small 最值得观察的第一个指标因此不是跑分，而是权重体积和推理吞吐。如果新模型只是增加专家数量、继续压低激活比例，它可能提高能力密度，却不会明显降低部署门槛；如果它同时缩减总参数，才有机会真正覆盖更广泛的企业私有化场景。

多模态和可控思考，可能继续成为差异点

原生多模态推理是 Inkling 家族从预训练阶段联合处理文本、图像和音频的能力。它与先把语音转成文字、再把文字交给语言模型的流水线不同，理论上能保留语气、停顿、视觉结构和跨模态关系等中间信息。

上一代 Inkling-Small 支持文本、图像和音频输入，但只生成文本输出。它适合处理会议录音分析、截图理解、图表问答、代码界面诊断和带语音信息的智能体任务，却不能等同于可直接生成图像或语音的全模态模型。

可变思考强度是允许开发者在响应速度和推理深度之间调整预算的机制。简单分类或摘要任务可以少思考，复杂数学、代码修复和多步工具调用则可以分配更多推理 token，这比让所有请求固定运行同样长的思维过程更适合生产环境。

Inkling 2 Small 是否继承原生音频与图像推理、100 万 token 上下文和可变思考强度，目前仍需等待完整模型卡确认。官方若只保留名称而削减这些能力，新模型会变成普通的高效 MoE；如果完整继承并降低延迟，它才有机会形成清晰的产品差异。

上一代上下文信息还存在过口径差异。Artificial Analysis 早期评测记录的是 256K token，而 Thinking Machines Lab 后续官方介绍写的是最高 100 万 token，这通常可能与评测时可用配置、版本更新或部署限制有关。对于生产系统，开发者应以实际下载版本的配置文件和推理框架支持情况为准，不能只看宣传页上的理论上限。

开放权重的价值在定制，不只是免费下载

开放权重模型是允许开发者获取模型参数并自行部署或微调的模型。它不必然意味着训练数据、训练代码和全部技术细节都开放，因此“开放权重”与完整意义上的“开源模型”并不能完全画等号。

上一代 Inkling-Small 采用 Apache 2.0 许可证，这使企业在商业部署、二次开发和分发方面拥有相对宽松的空间。Inkling 2 Small 是否沿用同一许可证尚待官方模型卡确认，这会直接影响它能否进入需要私有化部署和深度定制的企业项目。

Thinking Machines Lab 的真正产品组合是 Inkling 模型与 Tinker 微调平台，而不只是一个可下载的基础模型。旗舰模型负责提供能力上限，小模型负责控制推理成本，Tinker 则试图把训练、评估和定制串成一条工作流。

这一组合对代码生成、自动评测和合成数据生产尤其有吸引力。此类任务通常需要模型长时间批量运行，单次质量提升几个百分点未必比吞吐翻倍更重要；如果小模型能以接近旗舰的质量完成大部分样本，再把疑难任务交给大模型，整体成本会更合理。

安全指标并没有随效率一起全面提升

上一代 Inkling-Small 的安全表现并非所有维度都追平旗舰。其 FORTRESS adversarial 成绩为 71.6%，低于 Inkling 的 78.0%；FORTRESS benign 为 96.9%，则高于 Inkling 的 95.9%；StrongREJECT 分别为 98.4% 和 98.6%，差距很小。

这些数据反映的是安全性和可用性之间的拉扯。模型既不能轻易响应恶意请求，也不能把正常请求大量误判为危险内容；小模型在良性请求上的通过率更高，但面对对抗性提示时仍有改进空间。

Inkling 2 Small 的安全评估需要特别关注智能体场景。普通聊天中的一次错误回复影响有限，但具备工具调用能力的模型一旦误操作文件、执行错误命令或泄露检索内容，风险会被外部系统放大。

现在该怎么看 Inkling 2 Small

Inkling 2 Small 的发布说明 Thinking Machines Lab 没有把第一代 Inkling 当作一次参数秀，而是在认真搭建分层模型家族。旗舰模型争取能力上限，小模型争取单位计算量的产出，这条路线与当前企业部署需求更加一致。

现阶段不应急着把 Inkling 2 Small 称为新的性价比标杆。新品还缺少完整参数、许可证、权重下载信息、独立跑分和真实吞吐，只有这些数据公开后，才能判断它究竟是代际升级、训练配方更新，还是 Inkling-Small 的重新定位。

上一代 Inkling-Small 已经把门槛抬得不低：它用不足旗舰三分之一的总参数和激活参数，在综合指数中只落后 1 分，并在部分 HLE 测试中反超。Inkling 2 Small 若想证明“2”不是命名更新，至少需要在相同计算预算下提供更高能力，或在接近能力下显著减少显存、延迟和部署节点数量。

对于开发者而言，当前最值得等待的是五项信息：

1. 总参数量与每 token 激活参数量；
2. BF16、FP8 或 4 bit 权重的实际体积；
3. 文本、图像和音频能力是否完整保留；
4. 真实硬件上的首 token 延迟与持续吞吐；
5. 许可证、模型卡及主流推理框架支持情况。

小型模型竞争已经从“谁的参数少”转向“谁能用更少的激活计算完成同一件事”。Inkling 2 Small 选对了方向，但在完整权重和可复现实测出现之前，它更像一张值得关注的新牌，而不是已经分出胜负的答案。

参考来源

• Hugging Face：Welcome Inkling by Thinking Machines —— 汇总 Inkling 与 Inkling-Small 的参数、部署形态、基准测试及推理框架支持信息。
• 知乎：Thinking Machines 首发大模型 Inkling —— 中文整理 Inkling 家族的 MoE 架构、多模态能力、训练数据与模型定制路线。