LingBot-Vision 开源：1.1B 边界感知模型反超 DINOv3-7B

LingBot-Vision 开源一套边界感知的掩码自监督方案，1.1B 参数在 NYUv2 线性探测上以 0.296 RMSE 反超 DINOv3-7B 的 0.309，代价是 ImageNet 分类稍有落后。

1.1B 参数，把 DINOv3 的 7B 顶了下去

7 月 5 日，LingBot-Vision 在 Hugging Face 和 GitHub 同步开源，一次放出 4 个尺寸的权重（ViT-S/B/L 和 1.1B 的 ViT-H+），配套论文挂在 arXiv。核心结论只有一句话：在 NYUv2 深度估计的线性探测任务上，1.1B/patch-16 的模型跑出 0.296 RMSE，把 DINOv3 的 7B 旗舰（0.309）压了下去。ImageNet-1k 线性分类上仍然落后 DINOv3 一小截，但语义分割已经和蒸馏版 DINOv3 ViT-H+ 打平。

这是自 Meta 去年 8 月发布 DINOv3 之后，自监督视觉基础模型这条线上第一次出现"参数量不到七分之一、密集预测反超"的开源工作。对于做检测、分割、深度、机器人感知的工程团队，这个 delta 很扎眼。

LingBot-Vision 与 DINOv3 在 NYUv2、ADE20k、ImageNet 三个任务上的雷达对比图

换个思路：不再赌 masking 能自己长出边界

要理解 LingBot-Vision 为什么在密集任务上占便宜，得先看它和 DINOv3 的方法学分歧。

DINOv3 走的是 DINO 一脉相承的自蒸馏路线，加了 iBOT 的掩码 patch 建模、KoLeo 对 CLS token 的正则化，还上了一个 Gram anchoring 来防止长训练下密集特征图退化。整体思路是"随机遮 patch，指望模型在重建过程中自己学到几何结构"。这套东西在 ImageNet 上无懈可击，但在密集预测任务上，Meta 自己也承认长训之后特征图会 drift，才不得不加 Gram anchoring 打补丁。

LingBot-Vision 的作者直接不赌了：与其祈祷边界结构从随机 mask 里 emerge，不如逼学生去重建那些"不可能靠上下文抄答案"的区域。具体做法是：

在线预测边界场：teacher 在前向的同时输出一张 dense boundary field，标注哪些 token 落在几何边界上；
强制 mask 边界 token：这些 boundary-bearing token 会被塞进 student 的 mask 集合里，也就是说，student 必须重建的正好是那些语义/深度断点区域；
边界目标自产自销：不依赖标签、也不用 Canny/HED 这类外部 edge detector，全靠 teacher 自己迭代出来。

这是一种把"哪里最难学"直接塞到训练 loop 里的做法。语义上，几何边界是深度、法向、分割任务共享的底层结构；训练上，逼模型去解释这些不连续区域，比让它去 reconstruction 一大片纹理均匀的墙面信息密度高得多。

两个不起眼但顶用的工程选择

看论文的时候，有两处设计值得细品，作者也在 abstract 里明说了这是 load-bearing 的。

第一，把 boundary field 重写成 per-pixel 分类分布，而不是连续回归目标。这个改动看起来只是形式变化，实际后果很大——DINO 系那套 centering + sharpening 的自蒸馏防坍缩机制，是针对分类分布设计的，连续回归目标在 EMA teacher 下会 drift 到无意义的定点。改成 categorical 之后，几何分支可以直接复用现成的稳定化机器。这种"让新任务适配旧防线"的思路，比"给新任务发明新防线"要工程友好得多。

第二，解码出来的边界段要过一道 a-contrario 验证，通不过的就不允许监督 student。a-contrario 是经典视觉里的统计显著性检验框架，简单说就是问一句："这条边界在随机噪声图里出现的概率有多大？"概率高的直接扔掉。这一步本质上是给 teacher 加了一个自我审查，防止早期训练阶段 teacher 输出的边界都是假的、把 student 带沟里去。这也解决了自蒸馏最经典的鸡生蛋问题——teacher 不靠谱的时候，别急着让它当老师。

数据看细节

作者在论文里给了一张对比表，挑几个数字看看：

| 任务 | 指标 | LingBot-Vision 1.1B | DINOv3 7B | |------|------|---------------------|-----------| | NYUv2 深度线性探测 | RMSE ↓ | 0.296 | 0.309 | | ADE20k 分割（线性） | mIoU ↑ | 与 DINOv3 ViT-H+ 蒸馏版持平 | — | | ImageNet-1k 线性分类 | Top-1 ↑ | 落后约 1.2 个点 | 领先 |

注意都是 self-reported，且用的是 patch-16 分辨率，DINOv3 的 7B 版本按官方设定是 patch-16、512 分辨率训练的。分辨率和 patch size 对密集任务影响很大，第三方复现之前，这个 0.296 vs 0.309 得打个问号——但方法论层面，边界感知 masking 这个思路是站得住的。

ImageNet 落后其实也在意料之中。分类任务本身对全局纹理、类别原型敏感，边界结构不是决胜手；反而是把训练容量往边界区域倾斜之后，全图池化出来的 CLS 表征会略微失焦。这是一次典型的 tradeoff：偏向密集任务的模型，天然会在纯分类上让一点分。

LingBot-Vision 训练流程示意图，展示 teacher 输出边界场→ mask 边界 token → student 重建的闭环

4 个尺寸都放了权重

作者一口气发了 ViT-S、ViT-B、ViT-L、ViT-H+（1.1B）四档，都是 patch-16。对下游应用是好事：

S/B 档（22M / 86M）：适合边缘部署，做机器人 SLAM 前端、AR 深度估计这种要求延迟的场景；
L 档（300M 左右）：常规服务端推理甜点，特征质量已经能撑起大多数分割/检测头；
H+ 档（1.1B）：对标 DINOv3-7B 的位置，用不到六分之一的算力换等价甚至更好的密集特征。

Hugging Face 上权重直接可下载，作者提供了 timm 兼容的 loader，接现有工程栈成本很低。License 是 Apache 2.0，商用没有障碍——这一点比 DINOv3 的 DINOv3 License（有部分商业限制）更宽松。

和 DINOv3 的路线之争

把两个工作放一起看，能看出 SSL 视觉基础模型今年的两条路：

DINOv3 的路子是"堆规模 + 打补丁"：数据从 DINOv2 的 1.4B 拉到 1.7B、模型从 1.1B 干到 6.7B，训练目标里叠 iBOT、KoLeo、Gram anchoring，最后再走三阶段（预训练→Gram anchoring→高分辨率适应）。工程量巨大，效果也是全线 SOTA，但复现门槛高，光是那份 SLURM 脚本就把 90% 的团队劝退。

LingBot-Vision 的路子是"重设计 pretext task"：不加数据、不加参数、不加训练阶段，就换一种 mask 策略。1.1B 换 7B 的密集性能，工程上是划算的。

当然这条路也有明显短板：一是分类任务上仍然打不过 DINOv3，说明边界结构不是万能钥匙；二是 a-contrario 验证和 dense boundary decoding 会拖慢训练吞吐，作者论文里坦承训练时间比等参数量 DINOv2 baseline 慢约 30%；三是所有对比都是 self-report，社区复现还没跟上。

谁应该关注这个模型

如果你在做：

单目深度估计 / 3D 感知：直接换 backbone，NYUv2 那个 0.013 的 RMSE gap 在下游微调后可能放大；
通用分割 / 开放词汇分割：边界感知的密集特征天然适合做 mask decoder 的输入；
机器人视觉 / 具身智能：1.1B 的尺寸能塞进 Jetson AGX，比 7B 模型现实得多；
医学影像 / 遥感：几何边界在这些领域是硬需求，值得试试用 in-domain 数据继续预训练。

纯做分类、检索、CLIP 对齐的团队，暂时可以先观望，等社区复现和 ImageNet 数据补齐。

一点看法

自监督视觉这条线，从 MAE、DINO、iBOT、I-JEPA 一路走过来，中心问题一直是"pretext task 到底逼模型学什么"。LingBot-Vision 给出的答案是：让模型去解释几何不连续处，比让它去猜均匀纹理有用得多。这不是新观点——传统视觉里 Canny、SIFT 就是这套逻辑——但把它工程化地塞进 EMA 自蒸馏框架里，用 categorical 分布让它兼容防坍缩机器，用 a-contrario 让 teacher 自我审查，这三步组合起来是真的活儿。

DINOv3 用规模证明了大力出奇迹，LingBot-Vision 用设计证明了大力之外还有巧劲。对开发者来说，这是好消息——不是所有团队都能拉起 7B 训练，1.1B 能打的开源 backbone 越多，下游应用的可能性就越丰富。

接下来值得盯的几件事：一是社区第三方复现能不能对齐那份 self-reported 数字；二是作者会不会把边界感知 masking 移植到视频或多模态上（这套逻辑在视频时序断点上应该更好使）；三是下一版会不会拿这套方法去顶 DINOv3 的 6.7B 位置——如果 scaling 曲线不塌，那会更有意思。