好奇心，可能在重塑神经网络

神经网络变得更像人脑，可能不只取决于参数量和训练数据，还取决于它是否拥有选择学习内容的权力。

11 月 2 日披露的一项研究显示，当人工神经网络按照类似婴儿好奇心的机制主动切换学习任务，并同时受到真实大脑式布线成本的约束时，网络会自发形成分层模块、枢纽连接和先增殖后修剪的发育轨迹。更重要的是，这些结构变化并非徒有其表：好奇心更强的网络，在从未见过的任务组合上也表现得更灵活。(ithome.com)

**好奇心驱动训练是一种根据当前学习进展动态选择任务的训练方法。**它不是简单地让模型随机探索，也不是给模型一个新奇度奖励，而是让模型持续判断：我还在从当前任务中学到东西吗？如果学习收益开始下降，就及时离开，寻找信息增益更高的新任务。

这项研究最值得关注的地方，不是再次证明好奇心可以提升学习效率，而是提出了一个更激进的因果方向：复杂大脑或许不只是产生好奇心的基础，好奇心本身也可能反过来塑造复杂大脑。

从 275 名婴儿的视线开始

研究团队首先观察了 275 名 8 至 15 个月大的婴儿，以确定人类早期的探索行为究竟遵循什么规律。

实验屏幕会依次显示不同颜色和形状的图案，每组图案都暗含一套位置规律，婴儿可以通过观察前面的序列，逐渐预测下一个图案会在哪里出现。研究人员利用眼动追踪设备记录婴儿持续观看、预测和移开视线的时间。

婴儿并不会一直盯着最复杂或最新奇的内容，而是倾向于停留在仍能产生学习进展的内容上。

当婴儿仍在快速掌握某组规律时，他们会继续观察；当学习速率降至平均水平以下、继续观看带来的信息收益减少时，他们更容易移开视线，转向其他刺激。这种行为接近发展心理学中常说的学习甜蜜点：内容不能简单到毫无新意，也不能困难到无法形成预测。

研究团队随后把这种行为转化为人工神经网络的任务调度机制。

网络需要学习一套包含 20 项认知任务的训练集，但不同网络选择下一项任务的方式并不相同。高好奇心网络会监测当前任务的学习速率，一旦边际学习收益跌破阈值，就立即切换任务；低好奇心网络则主要依靠随机方式切换。

这一机制使用了边际价值理论，也就是 Marginal Value Theorem，简称 MVT。

**边际价值理论是一种决定何时离开当前资源、转向新资源的决策模型。**它原本用于解释动物觅食：当继续留在一块食物区域获得的收益低于环境平均收益时，动物就应该离开。放到神经网络训练中，食物变成了学习进展，觅食区域变成了不同任务。

这和今天大模型常用的数据采样策略有明显区别。传统训练通常提前设定数据配比，再按固定概率或人工课程持续采样；MVT 控制器则根据模型此刻的学习状态在线决定下一步学什么。训练数据没有变化，变化的是数据出现的顺序和停留时间。

好奇心改变的不是成绩，而是学习路径

所有网络最终都能掌握训练过的 20 项任务，因此好奇心机制并没有简单地制造一个训练集成绩更高的模型。

真正的差距出现在训练集之外。研究人员冻结网络原有权重，再测试模型处理未见过的任务重组时，好奇心网络表现出更强的组合泛化能力。

**组合泛化是模型把已经学会的规则重新组合，用于解决新问题的能力。**例如，一个模型分别学会了根据颜色做判断和延迟一段时间再输出，如果它能够直接解决一个此前没训练过的延迟颜色判断任务，就说明它没有只记住任务模板，而是在复用更基础的认知组件。

这种能力恰恰是当前 AI 系统的薄弱环节之一。大模型可以在海量数据中学到大量模式，但面对结构相似、组合方式不同的新问题时，仍可能出现脆弱的推理链条。研究团队的结果意味着，泛化能力可能不仅取决于网络规模、损失函数和数据量，也取决于模型经历了怎样的学习顺序。

| 训练方式 | 任务切换依据 | 已见任务表现 | 未见任务组合 | 形成类脑结构的倾向 | |---|---|---|---|---| | 高好奇心训练 | 学习速率低于动态阈值时切换 | 能熟练掌握 | 更强 | 最明显 | | 随机任务切换 | 按随机策略更换任务 | 能熟练掌握 | 相对较弱 | 较弱 | | 只有布线成本约束 | 惩罚远距离连接，但不主动选任务 | 可以完成训练 | 未显示同等优势 | 不足以单独产生复杂结构 | | 固定课程训练 | 由研究人员预设任务顺序 | 取决于课程设计 | 容易受课程偏差影响 | 需要额外结构设计 |

这里的核心判断是：好奇心没有给网络增加额外知识，而是让网络更有效地组织已有知识。

如果把训练过程比作学生在图书馆里学习，传统训练是老师提前排好书单，要求每本书读固定时长；好奇心训练则允许学生在理解速度下降时换书。最终两个人可能都读完了书单，但后者更容易在不同知识之间建立联系。

网络为什么会长得更像大脑

研究人员没有只比较模型输出，还检查了网络内部连接究竟如何变化。

为了让对比具有生物意义，团队把循环神经网络嵌入一个参考人脑解剖结构构建的三维虚拟空间，并对远距离连接施加额外惩罚。这相当于告诉网络：两个神经单元距离越远，建立连接所需的代谢和布线成本就越高。

**生物物理约束是对神经连接距离、能耗和资源成本施加限制的建模方法。**真实大脑不能像软件矩阵一样免费连接任意两个节点，长距离轴突需要占用空间、消耗能量，还会带来信号传输延迟。因此，大脑必须在连接成本和信息传递效率之间寻找平衡。

单独增加布线成本并没有自动产生复杂的类脑结构。

只有当布线约束与好奇心任务调度同时存在时，网络才出现更明显的分层模块化组织。网络内部形成多个高度互联的功能模块，模块之间又通过少量关键节点连接，既减少了昂贵的全局布线，又保留了跨任务整合信息的能力。

**模块化结构是网络内部形成多个连接紧密、功能相对独立子系统的组织方式。**模块化不是简单地把网络切成几块，而是让局部计算能够专业化，同时允许关键模块交换信息。视觉、语言、记忆和行动可以分别处理，再在需要时协同工作。

研究代码将网络结构与人类连接组数据进行比较，关注模块度、全局效率和富俱乐部组织等指标。所谓富俱乐部，是少数高连接度枢纽彼此之间也保持密集连接的结构，它类似交通网络中几个大型枢纽机场相互开通直航，能够显著提高整个系统的信息交换效率。(github.com)

这种结构并不是研究人员手工写进网络的，而是在任务选择和连接成本的共同压力下涌现出来的。

这也是研究最有分量的部分。过去大量类脑研究会直接借鉴大脑结构，例如设计脉冲神经元、局部学习规则或模块化架构；这项工作则试图说明，只要训练动机和资源限制足够接近生物体，一部分结构可能不需要被直接复制，而会自行出现。

先疯狂连接，再主动修剪

好奇心网络还重现了人类神经发育中一个非常典型的轨迹：连接密度先上升，再下降。

人类出生后的早期阶段会快速生成大量突触，让大脑保留尽可能多的学习路径；随着经验增加，使用频率低、贡献有限的连接会被逐步削弱或清除。这一过程被称为突触修剪。

**突触修剪是大脑在发育过程中删除低效连接、保留高价值神经通路的机制。**它不是能力退化，而是从大量候选路径中筛选出更高效的网络结构。

研究中的好奇心网络出现了相似变化。网络早期为了应对不断切换的任务而建立大量连接，随后根据不同连接对学习和泛化的贡献逐步精简。没有好奇心机制的网络，则较少出现同样清晰的先增后减曲线。

研究人员进一步把人工网络的连接密度曲线与人类一生的突触密度标准曲线进行拟合，以估算每个网络对应的生理年龄。

结构最接近人脑、好奇心水平最高的一组网络，对应的成熟度约为 20 岁；缺少好奇心、连接组织也不够类脑的网络，对应年龄约为 9 岁。这个数字不能理解为网络真的拥有 20 岁人类的智力，它只表示网络的连接密度变化更接近该年龄阶段的人脑曲线。(ithome.com)

这一结果提供了一个值得继续验证的假设：好奇心不仅决定学习者去哪里获取信息，也可能参与决定哪些连接值得保留。

这不是给大模型加一个好奇心按钮

这项研究暂时不能证明，只要给 ChatGPT 一类系统加入主动提问能力，就能获得更强的通用智能。

实验对象是受生物物理约束的多任务循环神经网络，而不是拥有数千亿参数、基于 Transformer 架构训练的大语言模型。20 项认知任务也远小于互联网文本、图像和代码构成的开放世界数据分布。

研究结论目前还来自预印本，因此尚未完成正式同行评审。研究团队公开了代码、匿名化婴儿行为数据以及部分模型分析结果，但原始婴儿数据和部分人类连接组数据受到伦理与授权限制，无法完全公开分发。代码仓库显示，实验分析涉及网络拓扑、突触密度、婴儿好奇心拟合和组合泛化等多条链路，而不是只比较单一准确率。(github.com)

外部研究者还提出了一个关键问题：没有好奇心的网络是否只是发育得更慢，而不是永远无法形成类似结构。

研究团队的回应是，不同网络在基础训练任务上已经达到接近的熟练度，因此结构差异不能简单归因于训练不足。不过，要排除慢速收敛的可能性，仍需要更长时间训练、更大规模网络以及不同任务集合的复现实验。

另一个风险是把类脑指标误认为通用智能指标。模块度、全局效率和富俱乐部结构可以说明网络拓扑接近人脑，却不能自动证明模型拥有理解、意识或人类式推理。结构相似是证据，不是终点。

对 AI 训练最现实的启发

这项研究短期内最有价值的方向，是改进多任务模型和智能体的课程学习策略。

第一，模型可以根据实时学习进展分配训练资源。与其持续重复已经掌握的数据，训练系统可以追踪不同任务上的损失下降速度，把更多算力分配给仍有明显学习收益的任务。

第二，模型可以主动避开过难或过易的数据。过易数据几乎不产生新梯度，过难数据则可能只带来噪声；最有效的样本往往位于模型当前能力边界附近。

第三，模型可以用提问而不是猜测来降低不确定性。面向用户的 AI 助手如果发现需求存在多个解释，可以先提出一个高信息量问题，再生成完整答案，这比一次输出数千字但方向错误更有效。

第四，模型架构可以和训练课程共同设计。当前行业通常把架构设计和数据调度视为两个独立问题，但这项研究表明，任务出现的顺序可能直接影响网络最终形成怎样的内部结构。

第五，资源限制未必只是妥协。今天的主流路线倾向于通过更多参数、更大数据集和更长训练解决问题，但生物大脑是在严格能耗、空间和连接成本下形成的。适当限制远距离通信、激活规模或模块间带宽，反而可能迫使模型学习更可复用的表示。

这条路线不会替代规模扩展，但可能成为规模扩展之外的重要补充。

大模型已经证明，增加参数、数据和计算量可以稳定提升大量任务的性能；好奇心驱动训练要回答的则是另一个问题：当资源不能无限增加时，模型能否通过主动选择学习内容，形成更灵活、更高效的内部组织？

判断：真正的新意是把课程学习变成结构生成器

好奇心驱动训练的价值，不在于把一个心理学名词包装成新的优化技巧，而在于它把训练课程和网络结构联系了起来。

过去的课程学习主要关心如何让模型收敛得更快，通常按照从简单到困难的顺序组织样本。这项研究进一步提出，课程不只影响收敛速度，还可能影响网络最终长成什么样，以及模型能否把多个技能重新组合。

如果后续研究能在 Transformer、多模态模型和长期运行的自主智能体上复现这一现象，它可能改变 AI 开发者对训练数据的理解。数据集不再只是一个等待模型吞下的静态仓库，而会成为模型主动探索的环境；训练调度器也不再只是提高吞吐量的工程模块，而可能成为塑造智能结构的一部分。

现阶段更合理的态度是谨慎乐观。研究展示了一条有吸引力的路径，也公开了代码和部分数据，但它还没有证明好奇心机制可以直接扩展到工业级大模型，更没有证明人工网络因此获得了真正的人类式认知。

不过，它至少提醒了整个行业一件事：模型学了多少固然重要，模型为什么选择在此刻学习这件事，可能同样重要。

参考来源

• IT之家：研究发现，好奇心或驱动人类大脑形成复杂结构——报道了 275 名婴儿眼动实验、20 项认知任务、网络发育年龄拟合及研究团队观点。
• GitHub：Multitask Curiosity 研究代码与可共享数据——包含好奇心课程控制器、网络拓扑、突触密度和组合泛化分析的实现与复现说明。