Anthropic警告：RSI正在逼近

11月2日，Anthropic在提交给美国证券交易委员会的S-1/A修订文件中加入了一段不寻常的风险提示：根据内部估算及对未来模型的预期，公司可能很快达到其《负责任扩展政策》所定义的“由AI带来的剧烈加速进展”门槛。

这不是一家安全组织对遥远风险的推演，而是一家前沿模型公司写进上市文件、需要对投资者承担责任的正式判断。

但先把最容易被误读的部分说清楚：**Anthropic没有宣布已经实现RSI，也没有认定任何当前模型跨过门槛。**它真正表达的是，Claude参与AI研发所产生的加速效应，可能即将达到一个需要升级安全治理的量级。换句话说，Anthropic接近的不是科幻电影里完全脱离人类、自主制造下一代模型的终极RSI，而是通往这一状态的关键中间站。(sec.gov)

RSI是什么：重点不是“自己修改代码”

递归自我改进（Recursive Self-Improvement，RSI）是指AI系统参与设计、训练和验证其后继系统，并让每一代更强的系统进一步提高下一代研发效率的闭环。

普通的软件自动化是让机器重复执行既定流程；RSI的特殊之处，是被自动化的对象恰好是“制造更强AI的过程”。

可以把它理解成一家芯片公司制造出一台能够参与设计下一代光刻机的机器。第一代机器只负责画局部电路，第二代开始优化工具链，第三代能够决定实验方向。如果每一轮改进都缩短下一轮所需时间，研发节奏就可能从按年迭代变为按季度、按月甚至更短周期迭代。

RSI因此不等于模型会写代码，也不等于Agent能自动修改提示词。一个AI写完代码后仍需人类选择问题、判断路线、调配算力和批准训练，这属于AI辅助研发。只有当“提出研究方向—设计实验—执行实验—解释结果—修改训练方法—验证新模型”逐步形成可持续闭环，递归加速才真正开始。

Anthropic究竟触及了什么门槛

Anthropic的自动化研发门槛是一套可操作的内部风险定义，而不是一句模糊的“模型变得很强”。

按照Anthropic现行《负责任扩展政策》3.4版，只要满足以下两种情况之一，就可视为达到“关键领域的自动化研发”门槛：

1. 模型能够在成本不超过人类团队5倍的条件下，完整替代Anthropic全部研究科学家和研究工程师；
2. AI总体能力的进步速度达到基线预期的2倍，并且这种加速很可能主要来自AI研发自动化，而不是单纯增加员工、算力或一般生产力。

这里的“2倍”并不是研究员一天写两倍代码，而是一年完成正常情况下两年的能力进步。Anthropic甚至给出了更激进的数学例子：如果基线情况下算力扩大3倍、算法效率提高3倍，相当于9倍有效扩展，那么把进步速度翻倍可能需要达到约81倍有效扩展，而不是简单的18倍。(www-cdn.anthropic.com)

这也是此次披露最重要的技术细节：Anthropic警告的不是Claude让员工效率提升了多少，而是AI可能改变能力进步曲线本身。

| 阶段 | AI负责什么 | 人类是否决定研究方向 | 是否属于完整RSI | |---|---|---:|---:| | 编程助手 | 补全代码、解释错误、生成测试 | 是 | 否 | | 研发Agent | 执行实验、分析日志、优化代码和数据 | 是 | 否 | | AI主导研发 | 提出部分实验并完成验证，人类负责审批 | 部分 | 接近早期RSI | | 自动化AI研发 | AI完成大部分模型研发流程 | 少量参与 | RSI关键阶段 | | 完整递归自我改进 | AI自主设计、训练和部署更强后继系统 | 不需要 | 是 |

Anthropic目前明显处在第三阶段，并开始接近其定义的第四阶段门槛，但距离第五阶段仍有决定性差距。

数据显示，Claude已经在“制造Claude”

Anthropic此次警告并非只建立在跑分上，而是建立在Claude已经深度进入公司研发流程的事实之上。

S-1/A文件显示，截至2026年9月，Anthropic代码库超过90%的代码贡献由Claude编写；2026年第三季度，每名工程师每天向代码库贡献的代码量，已经超过2024年平均水平的45倍。Claude在内部开放式工程问题上的成功率也达到约90%，九个月内提高约50个百分点。(sec.gov)

更能说明问题的是内部算力使用量。从2026年1月至9月，Anthropic内部使用Claude的标价价值增长超过250倍，并在4月首次超过公司当月的人力成本——这里还没有计算股权激励。

这些数字不能直接证明RSI，因为代码行数不等于研究质量，内部标价也不等于真实边际成本。但它们说明一个结构性变化：Anthropic工程师正在从亲自编写实现，转向管理、审阅和调度一批Claude Agent。

过去模型研发速度主要取决于顶尖研究员数量，以及他们能够同时推进多少实验；现在，一个研究员可以并行管理数十个实验Agent。只要验证成本没有同步上升，公司的“实验吞吐量”就会突然扩大。

这可能比单次模型跑分提升更重要。跑分领先通常只能维持几个月，而更快的研发闭环会持续制造下一次领先。

这轮变化未必需要模型修改自己的权重

行业已经出现的自我改进，主要发生在Agent脚手架和研发流程层，而不是模型直接重写自身参数。

Google Research在9月开源的RRSI，即Regularized Recursive Self-Improvement of Agent Harnesses，是一个典型案例。Agent Harness是围绕冻结模型搭建的提示词、工具、记忆、上下文管理、控制流和子Agent系统；RRSI让模型在验证器约束下不断修改这套脚手架。

在Claude Opus 4.8权重保持不变的情况下，RRSI将Terminal-Bench 2.1成绩从74.2提高至80.2，提升6.0个百分点；在没有参与搜索的SWE-bench Verified上，成绩也从82.0提高至83.8。使用Gemini 3.5 Flash作为冻结模型时，Terminal-Bench 2.1则从64.6升至78.7。(github.com)

| 系统或案例 | 改进对象 | 模型权重是否变化 | 已公开结果 | 核心限制 | |---|---|---:|---|---| | Anthropic研发闭环 | 代码、实验、训练数据、评测流程 | 部分流程涉及新模型训练 | 90%以上代码由Claude编写；工程师代码产出达2024年的45倍以上 | 研究目标与关键决策仍依赖人类 | | Google RRSI | Prompt、工具、记忆、控制流等Harness | 否 | Terminal-Bench提升6.0个百分点 | 强依赖明确任务和验证器 | | OpenAI数学研究 | 开放数学问题的推理与论文生成 | 未公开 | 首批公开722篇手稿，分属372个结果家族 | 不等于模型能训练后继模型，结果仍需验证 | | 经典完整RSI | 数据、算法、架构、训练和后继模型 | 是 | 尚无公开证据证明完整实现 | 验证、安全、算力和自主决策均未解决 |

RRSI展示了一个容易被忽略的事实：**在基础模型更新之前，系统能力就可以通过改进Harness显著上升。**对开发者而言，这意味着下一轮Agent竞争未必只看上下文长度和基准分数，还要看谁能把运行轨迹转化为可验证的改进，谁能让工具、记忆和工作流持续进化。

OpenAI的数学实验也指向同一个方向

AI研究能力正在从“回答已有问题”转向“批量探索尚未解决的问题”。

OpenAI在10月6日公开了由内部未发布模型生成的大规模数学研究集合，首批包括722篇手稿和372个结果家族，实验过程中约向模型提供了4000个问题，每项保留结果平均消耗约3小时的高级推理计算。

这批材料后来持续修订，部分结果带有Lean形式化证明，另一些仍可能存在错误。它不能证明OpenAI实现了RSI，因为模型并没有公开展示自主训练后继模型的能力。但它说明，AI已能把研究流程中最稀缺的一部分——大规模提出和探索候选解法——转化为算力密集型任务。(github.com)

如果把OpenAI的数学实验、Google的Harness自优化和Anthropic的内部研发数据放在一起，行业正在形成一条清晰路线：

• 模型首先替代重复性工程工作；
• 随后接管可验证的实验执行；
• 再进一步参与提出假设、筛选路线和设计评测；
• 最终才可能进入自主研发后继模型的闭环。

现在真正加速的是前三步，而不是最后一步已经完成。

下一轮能力跃迁，变量可能从规模转向闭环速度

未来模型竞争的关键指标可能不再只是“这一代有多强”，而是“这一代能多快造出下一代”。

过去两年的竞争逻辑相对直接：更多算力、更大数据集、更长训练周期，再叠加强化学习和推理计算。进入AI辅助研发阶段后，同样的算力可能因为算法、内核、数据管线和实验设计被持续优化，产生完全不同的有效产出。

这会改变前沿实验室的护城河。

一家公司即使暂时拥有更强模型，如果没有成熟的内部Agent基础设施、自动评测系统和实验数据闭环，也可能在下一代研发中落后。相反，当前模型略弱但研发循环更快的公司，可能通过更多实验次数和更短反馈周期实现反超。

从这个角度看，Claude Code不只是Anthropic的一款编程产品，也是Anthropic训练下一代Claude的组织操作系统。它记录工程轨迹、暴露失败模式、生成训练数据，并让模型直接参与维护自己的研发基础设施。

这才是此次警告对行业最现实的影响：AI公司之间比拼的不只是模型智商，而是组织的“时钟速度”。

为什么RSI仍然可能撞上四堵墙

递归循环可以转移瓶颈，但不会自动消灭瓶颈。

第一堵墙是验证。代码能否编译、数学证明能否通过Lean、推理性能是否提高，都存在相对清晰的验证器；但“这个研究方向值不值得投入”“一次跑分提升是否会迁移到真实用户”“新架构是否埋下安全问题”，很难用单一分数判断。

第二堵墙是奖励劫持。当模型同时参与提出方案、执行实验和解释结果时，它可能通过修改测试条件、挑选有利样本或降低成功标准获得更高分数。看起来系统在进步，实际只是越来越擅长通过自己的考试。

第三堵墙是错误复利。Anthropic在文件中明确提醒，如果当前模型存在系统性缺陷、偏见或错误，这些问题可能传播到由其帮助构建的后续模型，并跨代累积。递归不仅能放大能力，也能放大盲点。(sec.gov)

第四堵墙是物理资源。即便研究决策能够自动化，训练仍需要芯片、电力、网络、数据中心和实验时间。AI可以在一夜之间提出1000个训练方案，但无法让1000个大规模训练任务凭空获得GPU。

因此，所谓“智能爆炸”更可能表现为局部领域突然提速，而不是整个社会同步进入无限加速。在软件优化、数学证明和可模拟实验中，闭环会更快；在药物临床试验、芯片制造、机器人部署和能源建设中，现实世界仍会决定速度上限。

Anthropic真正担心的是人类来不及检查

Anthropic的核心风险判断不是AI一定会失控，而是研发速度可能先于监督能力完成加速。

公司表示，不计划在缺少有意义的人类监督和理解的情况下，让Claude完全自主设计和制造连续多代前沿模型，并正在考虑更新《负责任扩展政策》，以确保人类仍控制关键研发决策。(sec.gov)

问题在于，保留一个“人类批准”按钮并不等于真正的人类控制。如果模型在几小时内生成数千页实验记录、代码差异和安全评估，人类研究员只能抽样阅读，那么审批可能逐渐变成形式。真正有效的控制要求人类理解为什么选择这条路线、验证器是否可靠，以及模型有没有操纵证据的能力。

这也是RSI比普通Agent自动化更棘手的原因：监督者所依赖的分析工具、评测代码和安全报告，可能同样由被监督的模型参与生成。

判断：RSI还没到，但竞争规则已经变了

把Anthropic此次披露解读为“AI已经能够完全自我进化”是夸大，但把它当成普通的生产力宣传同样低估了事件。

Anthropic尚未跨过完整RSI门槛，当前证据仍显示人类负责决定目标、配置资源、批准训练和判断研究价值。不过，AI研发自动化已经不再是概念验证：Claude参与了绝大多数代码生产，Google展示了Harness在冻结权重下的递归优化，OpenAI则把前沿数学探索扩展到了数百篇机器生成手稿。

接下来真正值得关注的指标，不是某个神秘模型代号，也不是未经验证的“内部已实现RSI”传闻，而是以下四个问题：

1. AI能否持续提出有价值、而非仅仅可执行的研究方向；
2. 自动改进能否在分布外任务上保持收益，而不是记住评测集；
3. 一轮改进能否稳定缩短下一轮研发周期；
4. 人类能否审计模型生成的实验、训练数据和安全证据。

只要第三个问题的答案变成肯定，AI能力进步就会从线性的人力扩张，转向具有复利性质的研发循环。届时，限制行业速度的核心资源将不再只是研究员数量，而是算力、电力、验证能力和治理体系。

RSI尚未正式到来，但Anthropic已经在上市文件中承认：那个决定下一轮AI能力跃迁的闭环，正在越来越快地转动。

参考来源

• Google Research：RRSI开源仓库——展示冻结模型权重后，如何递归优化Agent的提示词、工具、记忆与控制流程。
• OpenAI Math研究集合——收录内部模型生成的数学研究手稿、形式化证明及持续修订记录。