Hinton首发RSI论文，AI开始造AI

**递归自我改进正在从理论假设变成AI公司的研发流程。**当地时间2026年10月初，Geoffrey Hinton联合20多位人工智能研究者发布了首篇聚焦递归自我改进（Recursive Self-Improvement，RSI）的研究报告，讨论一个过去更像科幻设定、如今已经出现早期证据的问题：如果AI开始大规模参与下一代AI的设计、训练、评估和安全工作，模型能力的提升是否会进一步加速？

这份报告并没有宣布“智能爆炸”已经发生，也没有声称某个模型已经脱离人类控制、自主修改参数。它提出的判断更克制，也更值得关注：AI不需要拥有意识，不需要直接重写自己的权重，只要进入生产下一代AI的研发流水线，就可能形成一套由模型、Agent、算力、实验基础设施和人类研究员共同组成的递归改进系统。

RSI不是“模型突然觉醒”

**递归自我改进是指一个系统利用当前版本改进下一版本，并让更强的新版本继续参与后续改进的过程。**最容易理解的类比是一座生产机器的工厂：第一台机器不是被卖给客户，而是留在工厂里改造生产线；改造后的生产线生产出更强的第二台机器，第二台机器再继续改造工厂。

在AI领域，这个“工厂”不是单一模型，而是一整套研发系统。它包括训练代码、数据处理流程、模型架构、评估基准、推理工具、实验调度平台、安全测试体系，以及负责提出目标和审核结果的人类研究员。模型只要能够帮助优化其中任何一个环节，就已经参与了下一代AI的制造。

因此，RSI和大众想象中的“AI读懂自己的源代码，然后在夜里不断升级”并不是一回事。模型通常不会直接修改自身参数，也不一定知道自己正在参与自我改进。更现实的路径是，研究员让Agent生成训练脚本、提出架构方案、分析实验结果、定位代码错误或设计新的评估任务，人类再决定哪些结果能够进入下一轮研发。

**真正发生递归的对象，是研发系统，而不是某个孤立的聊天机器人。**这也是这份报告的重要价值：它把讨论从“AI有没有意识”转向“AI能否持续提高制造AI的效率”。后一个问题更工程化，也更接近现实世界。

AI研发已经跨过辅助阶段

**AI参与AI研发大致经历了从辅助工具、研发Agent到递归改进系统的三个阶段。**第一阶段里，AI主要替研究员处理局部工作，例如检索论文、解释代码、生成实验脚本、修复程序错误和整理实验记录。方向由人类决定，实验由人类发起，模型只是提高单个研究员的执行速度。

第二阶段里，AI开始承担完整任务链。研究员不再逐行告诉模型该做什么，而是给出一个较高层的目标，例如“降低训练成本”“改善长上下文评估结果”或“寻找更稳定的微调方案”。Agent随后拆解任务、编写代码、运行实验、比较结果，并决定下一步尝试哪些方案。人类的角色从操作员变成任务制定者和结果审核者。

**Agent的核心变化不是会写更多代码，而是能够在多个步骤之间保持任务状态。**一个能够调用工具的模型，只能根据当前输入执行单步操作；一个研发Agent则需要读取项目结构、修改文件、启动训练、等待实验完成、解析日志、比较指标，再根据失败原因提出下一轮方案。它更像一名可以被并行调度的初级研究员，而不是更强的自动补全工具。

第三阶段才是真正的递归阶段。AI参与研发出更强或更便宜的模型，新模型被重新放入训练、评估、安全测试和工程开发流程，随后承担更多研发任务。一次模型升级不仅带来更高的基准分数，还可能扩大可同时运行的Agent数量、降低实验成本、缩短反馈周期，从而提高下一轮升级的速度。

数据已经出现早期闭环

**AI在AI研发中的占比已经从“偶尔使用”进入可量化增长阶段。**根据报告引用的行业数据，Anthropic内部由AI生成并最终获批的代码，占比从2025年初的个位数上升到2026年5月的80%以上；仅需人类高层监督、主要由AI自主完成的研发工作，则从2026年3月的1%上升到8月的26%。

这两组数字不能直接等同于“AI已经独立研发模型”。代码生成比例高，说明AI已经深度进入软件工程流程，但不代表它掌握了全部研究决策；高层监督任务的占比从1%升至26%，则更接近自动化边界正在向上移动的证据。二者结合起来看，变化不在于AI偶尔替研究员写几段代码，而在于越来越多研发任务可以被交给模型连续执行。

OpenAI已经表示，代码Agent被用于未来模型的训练、评估和安全工作。Google也公开提到，涉及代码、技术设计和研究构思的工作，几乎都在不同程度上使用AI。不同公司的统计口径并不完全一致，因此不能简单横向比较，但方向非常明确：前沿实验室正在把模型从“研究工具”升级成“研发基础设施”。

**研发自动化最重要的指标不是模型写了多少代码，而是人类需要介入多少关键决策。**如果模型只是生成代码，研究员仍需逐条检查，那么效率提升主要体现在执行层；如果模型能够提出假设、设计实验、解释结果并自主选择下一组实验，效率提升就会扩展到研究流程本身。

为什么AI研发特别适合形成闭环

**AI研发比许多现实产业更容易递归自动化，因为它的大部分工作发生在数字环境中。**模型架构、训练脚本、评估程序和实验日志都可以被机器读取和修改，实验结果也能通过准确率、损失值、推理延迟、显存占用和安全指标进行量化。

这种环境有三个特点。第一，实验可以并行执行。同一名研究员可以同时调度几十个甚至几百个Agent，让它们测试不同的数据配比、提示策略、模型结构和训练超参数。第二，反馈周期较短。过去一个研究员可能需要数小时排查问题，现在Agent可以持续运行代码、读取日志并定位故障。第三，优秀方案容易复制。一旦某个Agent发现了有效的训练技巧，就可以被写入工具链，供整个团队反复使用。

**算力、模型能力和自动化程度之间存在相互强化关系。**更强的模型能够处理更复杂的研发任务；自动化程度提高后，团队能够同时运行更多实验；更多实验又会增加找到有效方案的概率。如果新模型还能降低推理或训练成本，团队就可以用更低的预算运行更多“机器研究员”，这会进一步放大循环效果。

报告据此推测，按照近年的任务能力增长趋势，到2028年年中，AI可能能够承担过去需要人类专家数月完成的部分研发项目。这个判断是趋势外推，不是确定预测，具体结果仍取决于算力供应、实验可靠性、数据质量、硬件进步和安全限制。但它说明一个关键变化：AI研发自动化的瓶颈，正在从“模型能不能写代码”转向“模型能不能可靠地完成长期、多阶段、需要判断力的研究任务”。

“智能爆炸”仍然不是必然结果

**递归改进能够加速AI研发，但并不自动等于无限制的智能爆炸。**要形成快速增长，至少需要同时满足几个条件：模型必须能稳定完成有价值的研发任务，实验结果必须可以被可靠验证，改进后的模型必须能够真正提升下一轮研发效率，训练和推理成本还不能随着能力提升同步失控。

其中最难的是验证。生成代码可以通过测试，模型架构却未必能用单一指标判断优劣。一个方案可能提高基准测试分数，却增加幻觉率；可能减少训练成本，却削弱安全性；可能在公开数据集上表现出色，却无法迁移到真实任务。AI如果只围绕容易优化的指标循环，很可能得到“看起来更强”的模型，而不是在实际研发中更有用的模型。

**AI研发自动化的主要风险不是模型突然获得主观意识，而是错误会以更快速度被复制。**当一个Agent错误地判断某种训练策略有效，自动化流水线可能把这个判断扩散到更多实验；当评估体系存在盲区，模型可能学会针对评测指标优化，而不是提升真实能力；当多个Agent共享相同的错误假设，系统还可能形成研究方向上的“集体偏差”。

这也是人类监督仍然不可替代的原因。人类研究员需要判断研究目标是否值得追求，确认实验是否真正回答了问题，识别指标与现实能力之间的偏差，并决定哪些变化可以进入生产系统。监督的重点会从逐行检查代码，转向审查目标、方法、证据链和风险边界。

对AI公司的竞争意味着什么

**下一轮AI竞争的核心，可能从单模型能力竞争转向研发系统效率竞争。**过去公司比较的是模型参数规模、训练数据量、基准测试成绩和产品用户数；接下来还要比较谁能让更多Agent稳定协作，谁能更快完成实验闭环，谁能用更低成本筛选出有效方案。

这会带来至少四个变化。第一，研究团队的规模不再完全由人类研究员人数决定。一个研究员如果能够同时管理几十个高质量Agent，其有效产出可能超过传统团队的线性增长。第二，工程基础设施的重要性上升。实验追踪、代码沙箱、版本控制、数据治理和评估系统会直接决定自动化研发的可靠性。

第三，评估能力会成为稀缺资源。模型越多参与研究，就越需要独立、稳定、难以被投机的测试体系。没有可靠评估，自动化只会让团队更快地在错误方向上前进。第四，安全团队的工作会前移。安全不再只是模型发布前的最后一道检查，而要嵌入训练目标、Agent权限、工具调用、数据访问和实验审批的每一个环节。

| 研发模式 | AI承担的工作 | 人类承担的工作 | 主要瓶颈 | | --- | --- | --- | --- | | 辅助研发 | 写代码、查资料、修复局部错误 | 提出方向、设计实验、审核结果 | 单点效率 | | Agent研发 | 拆解任务、运行实验、比较方案 | 设定目标、审核关键节点 | 长任务可靠性 | | 递归研发 | 参与训练、评估、安全和工具链改进 | 约束目标、验证证据、管理风险 | 闭环稳定性与可控性 |

开发者现在应该关注什么

**对大多数开发者而言，RSI短期内不会直接变成“模型自己升级”，但会改变AI产品的研发方式。**未来的重点不是让一个模型回答得更快，而是让多个模型、工具和评估器围绕一个目标协同工作。

开发团队需要优先建设可观察的实验流程。每一次模型修改都应该能追踪数据版本、训练配置、评估结果和人工决策；每个Agent的工具权限都应该被限制在明确范围内；自动生成的代码需要通过测试、静态检查和人工审查；重要实验不能只依赖模型自己的评价。

**真正可用的AI研发Agent必须具备失败记录能力，而不只是成功执行能力。**它需要知道哪些方案已经试过、为什么失败、失败结论是否可靠，以及哪些结果值得重复验证。没有长期记忆和实验追踪，Agent只是在反复生成相似答案；没有独立评估，它也无法判断自己是否真的取得进展。

开发者还应该警惕“自动化率”成为错误目标。让AI生成80%的代码，不一定比生成40%但经过充分验证的代码更有价值。对于模型训练和安全工程而言，稳定性、可复现性和可审计性往往比单纯减少人工操作更重要。

结语：真正的拐点在研发闭环

**Hinton这篇RSI论文最重要的提醒，是AI正在从被研发的对象变成参与研发的主体。**这不是说模型已经可以独立创造下一代通用智能，也不是说智能爆炸已经按下启动键，而是说第一段闭环已经出现：AI帮助人类制造更强的AI，而更强的AI又能帮助人类扩大研发自动化的规模。

接下来需要观察的不是某个模型是否宣布“自我改进”，而是三个更具体的指标：AI能够独立完成多长时间跨度的研发任务，研发结果是否能稳定转化为下一代模型的能力提升，以及人类监督是否仍然能够跟上系统的决策速度。

如果这三个指标持续改善，AI行业的增长方式就会发生变化。模型升级不再只是依靠更多算力、更多数据和更多研究员，也会依靠上一代模型对研发流程本身的改造。到那时，真正被加速的不是一次训练，而是整个生产下一代AI的过程。

参考来源

• 知乎：刚刚，Hinton发了首篇RSI论文：介绍Hinton首篇递归自我改进研究及其核心问题。
• 知乎：AI正接手AI研发，“智能爆炸”可能不远了：相关讨论汇总，帮助理解AI参与下一代模型研发的背景。