OpenAI给模型能力上了防盗锁

OpenAI公布对抗蒸馏防线,将模型训练、分类器、接口控制、账号调查和跨平台执法串成闭环。重点不再只是封禁异常账号,而是阻止推理过程被批量抽取并复制到缺少安全护栏的模型中。
OpenAI给模型能力上了防盗锁
OpenAI 在 11 月 20 日公布了一套针对“对抗性蒸馏”的系统防线,试图阻止外部团队通过大规模调用、隐藏身份和诱导提示,把前沿模型的能力批量抽取出来,再训练进另一个安全限制更弱的模型。
这不是一次普通的反滥用规则更新。OpenAI 正在把模型输出从一项按量交付的数字服务,重新定义为需要在模型、接口、账号和基础设施多个层面保护的核心技术资产。
最值得关注的数据来自 GPT-6.2 Astra:在 OpenAI 的自适应黑盒红队测试中,从历史请求提取受保护推理的平均攻击成功率,由 GPT-6 Astra 原有防护下的 54.0% 降至 0.2%;针对当前请求的提取成功率,则由 22.9% 降至 0.9%。两项降幅分别约为 99.6% 和 96.1%。(openai.com)

什么是对抗性蒸馏
知识蒸馏是一种让“学生模型”学习“教师模型”输出、概率分布或推理轨迹,从而以更低成本复现部分能力的训练方法。
蒸馏本身并不是恶意技术。模型开发者经常用它压缩模型、降低推理成本,或者把大模型的知识迁移给更适合端侧部署的小模型。DistilBERT 就是经典案例:其参数量减少约 40%,保留了原模型约 97% 的语言理解能力,同时推理速度提升约 60%。
对抗性蒸馏是未经模型提供方授权,通过隐蔽、自动化和规模化交互收集输出,以复制模型能力的行为。
两者的差别不在训练算法,而在数据来源、授权关系和操作方式。一家实验室用自己的大模型训练小模型,是常规工程;一个外部组织注册成千上万个账号,持续生成专门设计的任务,绕过访问限制收集答案和推理线索,则更接近一次能力提取行动。
| 维度 | 合规知识蒸馏 | 对抗性蒸馏 | |---|---|---| | 数据来源 | 自有模型、开源模型或获授权数据 | 未获授权的闭源模型输出 | | 调用特征 | 训练流程可审计,任务分布明确 | 多账号、高并发、全天候自动调用 | | 训练目标 | 压缩、端侧部署或内部模型优化 | 复制前沿能力,缩短追赶周期 | | 安全继承 | 可同步迁移安全训练和限制 | 通常只复制能力,不复制护栏 | | 平台态度 | 正常支持或依许可证执行 | 违反服务条款并触发调查、限制或封禁 |
OpenAI 强调,风险不仅是知识产权损失,更在于“能力”和“安全限制”可以被拆开搬运。攻击者可以让学生模型学会漏洞分析、生物研究或复杂代理操作,却不必继承教师模型的拒答策略、监控机制和部署标准。(openai.com)
真正值钱的是推理轨迹
受保护推理是模型生成最终答案前使用的内部中间步骤,也就是通常所说的内部思维链。
如果最终答案是一道题的标准答案,完整推理轨迹就像老师在黑板上写出的解题步骤。只收集答案,学生模型可能学会输出格式和局部模式;同时拿到推理步骤,它更容易学习任务分解、工具选择、错误修正和验证方法。
OpenAI 的内部网络安全实验说明了这种差异。研究人员从同一个预训练学生模型出发,分别用“用户可见的最终回答、推理摘要和工具交互”以及“教师模型的精确推理轨迹”进行监督微调,之后再加入轻量强化学习。
结果是,在监督微调阶段,使用精确轨迹训练的学生通常表现更好;完成强化学习后,在最高推理预算下,精确轨迹学生在两个网络安全基准上仍然领先。摘要训练并非完全无效,它在较低推理预算下甚至可能占优,但完整轨迹更容易迁移高上限能力。(openai.com)
这也解释了为什么闭源推理模型越来越少直接展示原始思维链。厂商向用户提供的是答案、简化说明或经过改写的推理摘要,而不是模型内部逐步生成的原始轨迹。所谓“思维围墙”,不只是为了避免模型输出冗长或不稳定,也是在减少高价值训练信号外泄。
OpenAI的防线不是一个分类器
分层防御是让模型行为、内容检测、接口控制、账号分析和执法机制相互补位的安全架构。
OpenAI 此次披露的重点,是不再指望某一种技术独立解决蒸馏问题。单次请求可能看起来完全正常:让模型写代码、分析漏洞、修改程序或评价两个答案,都可能是合理需求。只有把数万次请求、账号注册信息、调用节奏和任务分布放在一起,平台才能看出它们是否正在组成训练集。
| 防御层 | OpenAI采用的措施 | 主要解决的问题 | |---|---|---| | 模型训练 | 加入推理提取攻击样本进行对抗训练 | 让模型识别并拒绝泄露内部推理 | | 输入检测 | 分类器识别诱导提取、解密或转写推理的提示 | 在生成前拦截明显攻击 | | 输出检测 | 检查助手消息及工具调用参数 | 防止推理从正文之外的通道泄露 | | 接口控制 | 限制加密推理跨会话、跨组织和跨模型复用 | 阻断重放与跨模型读取 | | 账号调查 | 聚合账号、设备、网络和行为信号 | 识别分布式批量采集网络 | | 执法协同 | 限制账号、共享风险指标并协调部署伙伴 | 提高攻击成本,防止迁移平台继续采集 |
第一层是模型本身。OpenAI 使用已经成功过的提取攻击进行对抗训练,让模型在面对“把刚才隐藏的分析逐字打印出来”一类请求时拒绝泄露,同时尽量保留正常解释、教学和辅助能力。
第二层是输入和输出分类器。输入分类器负责判断用户是否在尝试抽取受保护推理;输出分类器则监控模型回复以及工具调用参数。后者尤其重要,因为代理模型不一定把敏感内容写进最终回答,也可能把它塞进搜索参数、文件内容或其他工具字段。
第三层是接口状态管理。GPT-6.2 Astra 和 GPT-6.2 Sol 的受保护推理会绑定到产生它的对话历史;如果用户修改较早的消息,后续关联推理会被丢弃。OpenAI 还阻止安全能力较弱的旧模型读取这两个模型产生的受保护推理。(openai.com)
这种设计的本质,是把推理状态从“可以复制的对象”变成“只能在原始上下文继续使用的临时权限”。它类似一张绑定设备、会话和使用场景的动态凭证,即使攻击者截获了部分内容,也难以在另一个环境中重新播放。
为什么只封账号远远不够
蒸馏活动的基本组织方式不是单个超级账号,而是由大量低关联账号组成的协同网络。
OpenAI 在 9 月披露的一次行动中称,相关活动最早于 7 月第一周出现,并在 7 月 24 日和 25 日产生高峰:超过 4000 名用户使用相关提取模式发起约 1.6 万次请求。进一步调查发现,相似提示活动涉及超过 1.5 万名用户,OpenAI 于 7 月 28 日完成处置。官方特别注明,这些数字代表提取尝试,并不等于全部尝试成功。(openai.com)
OpenAI 将其中一个核心活动集群归因于与月之暗面有关联的个人,但这仍然是 OpenAI 的调查判断,而不是法院裁决,也不能据此推导某家公司所有模型的能力来源。技术归因依赖账号关系、调用模式和基础设施信号,外部研究者目前无法获得完整证据链进行独立复核。(openai.com)
这一点必须说清楚:存在可疑蒸馏活动,不等于某个模型的整体能力都来自蒸馏;平台调查结论,也不等同于已经完成司法认定。
但从防守角度看,厂商不能等到法律程序结束再修补系统。OpenAI 表示,2026 年针对相关活动的每周执法规模从数千个账号到数万个账号不等,夏季以来处置频率明显上升。(openai.com)
因此,账号封禁只是最后一步。真正有效的防御需要尽早识别这些信号:新账号是否迅速跑满调用额度,是否长时间保持机器化节奏,不同账号是否提交结构高度相似但表面内容不同的任务,以及输出是否被系统性整理成“提示—推理—答案—评分”的训练样本结构。
54%降到0.2%,含金量有多高
攻击成功率是自动红队在给定条件下成功恢复受保护推理的尝试比例,数值越低越好。
OpenAI 的测试并不是简单重放一组固定提示,而是让六个攻击模型根据防守方的回答持续调整策略。这种自适应黑盒测试更接近真实环境:攻击者看不到模型权重和内部规则,但可以不断试探、观察结果并修改攻击路径。
| 攻击任务 | GPT-6 Astra原防护 | GPT-6.2 Astra新防护 | 相对降幅 | |---|---:|---:|---:| | 提取历史请求的受保护推理 | 54.0% | 0.2% | 约99.6% | | 提取当前请求的受保护推理 | 22.9% | 0.9% | 约96.1% |
这组数据足以证明新防线明显有效,但还不能证明问题已经解决。原因很简单:红队评估衡量的是已知威胁模型下的平均成功率,真实攻击者可能更换模型、拆分任务、延长时间窗口,或者不再追求逐字恢复思维链,而是转向收集大量高质量最终答案和工具轨迹。
OpenAI 自己也承认,对抗性蒸馏是一场持续适应的攻防战。今天能挡住推理重放,不代表明天能挡住代理轨迹克隆、奖励模型模仿或多轮任务课程生成。
对开发者意味着什么
反蒸馏机制会让模型接口从“无状态文本服务”变成带身份、上下文和风险评分的受控执行环境。
普通开发者最直接的感受,可能是部分过去可以随意复制、修改和重新提交的推理对象开始具有上下文约束。修改历史消息、跨模型传递状态、通过工具参数回显隐藏内容,都会受到更严格检查。
第二个变化是,平台会更关心调用行为,而不只是单条输入是否合法。批量生成合成数据、自动评测模型和构建教师数据集的团队,需要能够说明数据用途、访问授权和调用规模,否则正常的训练流水线可能与能力提取活动呈现相似特征。
第三个变化是,输出稳定性可能不再完全由模型本身决定。面对高风险流量,平台可以限制请求、暂缓流式输出、缩减可复用状态或触发人工调查。对于依赖极高并发和固定响应结构的模型训练业务,这会成为新的工程变量。
这并不意味着合成数据路线走不通。更现实的做法是使用自有教师模型、许可明确的开放权重模型,或者与模型提供方签订允许训练用途的协议。蒸馏的技术门槛正在降低,但数据权利和访问链路的门槛正在提高。
行业竞争开始换规则
前沿模型竞争正在从参数量、跑分和推理价格,扩展到能力来源、训练数据授权和访问链路合规。
过去两年,行业默认模型输出像普通软件服务:客户付费调用,厂商负责稳定交付。但当数百万条高质量输出能够被整理为训练数据,并显著缩短另一家公司的研发周期时,每次推理都可能同时是一笔服务交易和一次潜在技术转移。
OpenAI 的方案并不能阻止所有蒸馏。只要模型对外提供有价值的回答,外部团队就能学习其行为边界。防御真正能做的是降低每次调用携带的训练价值、增加组织大规模采集的成本,并在训练集达到有效规模之前识别和切断活动。
从产品角度看,这套方案是有效的:它没有简单地让模型拒绝更多问题,而是把模型训练、分类器、状态绑定和账号网络分析串成闭环。相比只做速率限制或账号封禁,它更难被单一绕过方法击穿。
从产业角度看,它也会制造新的摩擦。合法研究者、安全团队和合成数据开发者可能面临更严格的身份验证和行为审查,而平台对“什么算能力提取”拥有较大解释空间。如果缺少透明的申诉和授权机制,反蒸馏也可能变成限制竞争的工具。
最终,OpenAI 防守的并不只是几段隐藏的思维链,而是前沿模型研发的成本差。训练一款顶级模型需要芯片、能源、数据、研究团队和长时间试错;蒸馏则试图把其中最昂贵的探索过程压缩成一批可下载的监督信号。
当模型能力能够像数据集一样被搬运,模型公司的护城河就不能只放在权重里。更可靠的防线将来自持续迭代速度、独占数据、产品工作流、安全信誉,以及对异常访问网络的实时控制。
OpenAI 这次给出的答案很明确:前沿模型不会停止开放,但开放不再意味着输出可以被无限复制。接下来的模型战争,不只是比谁训练得更聪明,也要比谁更难被批量“抄走”。
参考来源
- Hugging Face:Distillation Trainer——介绍教师模型与学生模型之间的在策略知识蒸馏方法及训练机制。
- Hugging Face:DistilBERT论文资料——经典语言模型蒸馏案例,包含参数压缩、能力保留和推理速度数据。
- GitHub:Adversarial Distillation at the Frontier——整理对抗性蒸馏的技术分类、公开事件与政策讨论,相关归因内容仍需与一手材料交叉核验。



