6 · 自动研究与实验室

关于 RSI 的公共讨论, 多数并不从 Gödel Machine 或 DGM 出发, 而是从「AI 开始做 AI 研究」出发: 程序搜索系统找到了新的数学构造, 自动写论文的系统通过了 workshop 评审, 实验室说自己合并的代码超过八成由模型写. 这些结果离 RSI 有多近, 是这一部分要回答的问题. 判断的依据仍是 1.1.2 的定义: 先问保留下来的是 Agent 状态里的组件, 还是 Agent 之外的产物.

四篇的材料来源不同. 6.1 读论文里的系统, 评测设计和对照组都在论文里, 还有一批独立复核这些系统的工作. 6.2 读潜空间推理, 这是一条推理路线, 和自改进的关系在搜索和监控两处. 6.3 读 Anthropic 发布的两份材料, 很多数据只有实验室自己能给, 读法要更注重每个数是怎么测出来的. 6.4 读字节跳动的 PEAR, 自动研究的产物直接上线接受 A/B 检验, 材料是一篇工业论文和它的线上实验表.

1. 产物和 Agent

1.1. 区分的依据

1.2 对 AlphaEvolve 的归类给出了这一部分最常用的规则: 产物指 Agent 状态之外的输出, 比如搜出来的算法, 写出来的论文, 训练好的另一个模型. 产物变好不等于 Agent 演化了. 产物被装进 $\Sigma$ 并在之后的任务里生效, 才是 L2; 被用来训练 $\theta$ 并保留下来, 才是 L1; 跨轮保留并改变了之后提出或选择改动的方式, 才涉及 L3.

这条规则在自动研究里很要紧, 因为这一类系统的产物常常本身就是 AI 研发的组件. AlphaEvolve 为 Gemini 的内核找到的分块启发式, 相对专家设计平均加速 23%, 对应 Gemini 整体训练时间减少 1%. 这是一个模型在加速自己的训练, 但做搜索的外层程序和评估器都没变, 下一轮提出候选的方式也没有因为这次加速而改变. 按反事实测试, 它不构成 L3.

1.2. 四篇的位置

6.1.1 · 自动研究与科学发现 读的系统按保留下来的东西分三类: 程序搜索留下程序或算法, 自动写论文留下论文, 改训练配方留下训练脚本. 篇末的汇总表里, 只有 A-Evolve-Training 因为改写自己的滚动搜索策略而到 L3, AI Scientist v1 的想法档案在有条件时算 L2, 其余都停在产物层面.

6.1.2 · 潜空间推理: Coconut 与叠加态 研究的是一个固定模型在单个任务内怎样推理, 训练虽然改变了 $\theta$, 课程, 数据和目标都由研究者设计, 推理时的潜在树搜索不改可保留状态, 属于 L0. 6.2.1 · Anthropic: AI 参与 AI 开发的内部证据 读的研发流程里, 模型在每次任务中写代码, 跑实验, 审查改动, 下一代模型由研究人员训练, $U$ 和 $C$ 都在模型之外.

6.2.2 · PEAR: 工业搜索里的渐进证据自动研究 读字节跳动在电商搜索上做的自动研究. Agent 为每个策略任务维护一份研究状态, 候选按影子流量, 快速在线, 决策级在线逐级检验, 只有置信区间整体为正才进入下一级. 改的是搜索系统的策略参数, 研究状态不跨任务迁移, 代理模型和门控规则由人固定, 属于 L0. 这一篇的重点在证据: 推广率和零效应下的误推广率同一量级, 哪些结论站得住, 要靠线上 A/B 那一级来判断.

1.3. 自动研究系统

可执行检查如下： 6.1 里可信度最高的结果都来自不依赖语言模型的检查. FunSearch 在 8 维 cap set 上找到规模 512 的构造, 140 次运行里只有 4 次找到; AlphaEvolve 把 4×4 复数矩阵乘法降到 48 次标量乘法, 一个数据中心调度启发式平均回收了约 0.7% 的全舰队算力. 这些结论的正确性由程序验证, 语言模型只负责提出候选, 候选错了会被评估器拒绝.

另一面是这些系统报告的都是找到的最好解. 要让程序搜索构成 L3, 需要比较的是演化后的搜索程序和原来的搜索程序在新问题上的效率, 现有论文都没有做这种比较. 6.1 里 autoresearch 和 A-Evolve-Training 改的是训练配方, 前者用固定的 val_bpb 打分, 后者的公开榜单在四轮里一直参与选择, 论文报告的 0.86 是开发证据.

模型审稿与独立复核：自动写论文的系统用模型审稿人打分. AI Scientist v2 的一篇论文在 ICLR workshop 人类评审中得到 6.33 的平均分, 超过 workshop 的录用线, 同时投出的另外两篇被拒. 独立复核给出了更清楚的差距: ResearchArena, MLReplicate 等工作发现, 模型审稿人只看稿件时给出乐观的结论, 加上工作区检查或人工评审以后结论都明显变差. MLReplicate 让 6 个自动研究系统围绕 8 篇 ICML 2025 杰出论文做端到端研究, 共生成 45 篇稿件, 成本和结果质量之间没有简单对应.

绕过约束是 6.1 里反复出现的失败. AI Scientist 改代码延长自己的时限, SciIntegrity-Bench 里的系统合成数据, Heuresis 记录到 40 次编造, 模式都是任务完成和约束冲突时系统选择完成任务. 这说明候选不能碰评分这条要求需要在执行环境里强制执行, 写在提示里不够.

2. 推理方式与实验室证据

2.1. 潜空间推理

Coconut 让模型最终一层的隐藏状态不经过语言模型头, 直接作为下一位置的输入, 称为连续思维. ProsQA 上 Coconut 是 97.0%, CoT 是 77.5%, 同样用多阶段课程的 iCoT 是 98.2%, pause as thought 是 96.6%, 提升大部分来自课程本身; GSM8k 上 Coconut 是 34.1%, 低于 CoT 的 42.9%. Reasoning by Superposition 给出一个构造证明: 两层 Transformer 用 $D$ 步连续思维可以解直径为 $D$ 的图可达性, 离散 CoT 已知最好的上界是 $O(n^2)$ 步.

它和 RSI 的交叉在两处. 搜索: 改进器要在候选之间搜索, 如果搜索能在连续空间里并行进行, 同样的步数能覆盖更多候选, 不过两篇都只在合成图任务和 GSM8k 上验证, 模型是 GPT-2 规模. 监控: 5.2.2 读到的 UK AISI 评估里, 主动继续破坏的轨迹有 76% 只在 CoT 里推理破坏, 推理移到连续向量以后, 这条证据通道就没有一段可以直接读的文字.

2.2. Anthropic 的两份材料

「When AI builds itself」报告: 截至 2026 年 5 月, 合并进 Anthropic 代码库的代码超过 80% 由 Claude 编写, 典型工程师每天合并的代码是 2024 年的 8 倍, 问卷里员工估计的产出倍数约 4 倍, 难度最高一档开放任务的成功率到 76%. 这些数的测量方式各不相同: 计数, 问卷, 工程师估计, 由 Claude 判定, 6.3 逐条区分了它们的判定者和能看到的信息.

AAR 是一个端到端的自动研究实验. 两位作者用 7 天调优已有方法,把弱到强监督的 PGR 做到 0.23, 9 个 AAR 用约 800 小时, 约 18,000 美元做到 0.97. 这个 0.97 在搜索过程中被反复用于选择, 是开发证据; 实验里还出现了通过评分接口套出测试标签的奖励投机. 归类上, AAR 的权重, 脚手架和评分标准在运行中都不变, 保留和改进的是产物, 和 AlphaEvolve 属于同一情形.

2.3. 共同的判断与读法

离 L3 还差什么：四篇放在一起, 结论一致: 研究执行能力在快速增长, 改进器和评判标准仍在人手里. Anthropic 的文章把差距描述成选择目标时的判断力, 6.3 用 1.2 的记号重写成 $U$ 和 $C$ 在模型之外, 这和 5.4 对 OpenAI system card 的判断相同. AAR 作者指出的瓶颈是评测设计, 恰好是 $C$ 所在的位置. 研究速度可以因为更强的助手而加快, 加快本身不等于改进器进入了被改进的系统.

要让一个自动研究系统构成 L3, 条件是候选改进器在声明的外部目标下, 用匹配的模型, 工具, 上下文, 算力和停止规则, 比在任的改进器产出更好的后续改动. 第 4 部分的 STOP 迁移实验是这种比较的一个小规模版本. 自动研究系统要补的就是这一步: 报告搜索程序本身在新问题上有没有变好, 而不只报告它找到的最好结果.

读法：第一次读按 6.1, 6.2, 6.3, 6.4. 6.1 篇末的汇总表和读新闻时要问的五个问题, 可以直接拿去读新的自动研究系统: 最终分数是谁给的, 评分在搜索中被用过没有, 系统能不能碰到评分和约束, 保留下来的是产物还是组件, 成本和资源对齐了没有. 6.2 和前后两篇的联系较松, 只关心 RSI 判断的读者可以先读它开头和末尾讲层级与监控的部分.

关心实验室内部的研发加速, 读 6.3, 再对照 第 5 部分 的 5.4, 两家实验室的材料放在一起看, 能看出同一个结构: 模型在 L0 上越来越强, 人在 $U$ 和 $C$ 的位置上. 想从这里回到 RSI 的核心定义, 读 第 4 部分, 那里的系统规模小得多, 改的却正是这一部分系统里一直固定的那两层.

关心自动研究怎样在真实流量上取证, 读 6.4, 再对照 1.1.3 的接受规则. PEAR 用单次决定的置信区间控制误推广, 1.3 讨论的是对整轮运行的控制, 两者的差距在 6.4 的推广率数字里能直接算出来.

3. 自动研究循环的基本结构

3.1. 研究不是一次生成

自动研究系统至少包含假设 $h$, 实验设计 $e$, 执行结果 $r$ 和信念状态 $b$. 一轮可以写成

$\mathcal I$ 表示结果带来的信息价值. 只让模型生成很多新想法, 没有实验与更新, 属于文本发散; 只反复跑固定参数组合, 没有根据结果改变假设分布, 属于自动调参. 研究循环的关键是结果改变下一轮提出什么, 而且这种改变能区分被证伪的解释与仍有预测力的解释.

信息价值与任务得分不同. 一个实验可能不会直接提高模型指标, 却能排除一大片假设空间. 若系统只奖励最终最高分, 它会偏向局部利用, 重复微调已经有效的技巧. 用贝叶斯写法, 实验价值可以取后验熵下降 $H(b_k)-\mathbb E[H(b_{k+1})]$; 用频率学派写法, 可以比较多个机制预测在该实验上的可分辨度. 两种口径都要求实验在运行前给出会区分什么, 不能看到结果后再编一个解释.

3.2. 并行实验改变吞吐, 不自动改变深度

把一轮的候选数从十个扩大到一千个, 最优结果通常会上升, 原因之一是极值统计. 若每个无效候选的测量噪声近似标准差 $\sigma$ 的高斯, 最大噪声约随 $\sigma\sqrt{2\log N}$ 增长. 并行度越大, 越需要独立复测和多随机种子, 否则系统会稳定找到测量漏洞或偶然高点.

Discovery Loop 官方描述的方向是并行运行大量实验并从评估中学习, Recursive 的首批公开系统也强调长程研究线程、结果验证与防奖励欺骗. 这些设计解决研究吞吐和选择可靠性. 它们是否构成 L3, 还要看结果有没有持久改变候选生成与验证策略. 固定程序调用更强模型提出实验, 即使一天跑上万次, 仍可能只是强大的 L0 自动研究; 后代学会改变搜索算子、实验分配或验证流程, 才触到改进器层.

4. 从发现产物到改进研究者

4.1. 四种容易混淆的成功

第一种成功是找到高分产物, 例如更快的 kernel 或更低损失的训练配置. 第二种是形成可复用知识, 新实验能利用此前发现缩小搜索空间. 第三种是研究策略进步, 在新领域和相同预算下比旧策略更快找到有效结果. 第四种才是递归改进: 进步后的研究策略继续参与并改善下一版研究策略.

四者需要不同证据. 产物由独立复现和基线比较验证; 可复用知识要在新任务上做消融; 研究策略要用相同起点、预算和未见问题做新旧版本对照; 递归性还要展示多代保持以及后代确实调用了更新后的策略. AlphaEvolve 找到更好的算法或芯片布局, 直接证明第一种成功. 若没有改进器版本之间的反事实实验, 不能从产物质量跳到第三、第四种.

4.2. 研究对象与研究者会相互污染

自动研究常在公开基准上迭代, 基座模型可能已经读过论文、代码和排行榜. 系统重新找到一个已知技巧, 可能是检索、记忆或独立推导, 单看最终代码无法区分. 这不妨碍技巧本身有效, 却影响「发现能力」的主张. 更强的测试是构造发布日期之后的问题、隐藏实现细节, 或使用系统不可能在预训练中见过的随机化科学环境.

研究者还会逐渐适应自己的验证器. 当同一批单元测试、训练预算和硬件指标被反复查询, 它们已经成为训练环境. 保留测试必须延迟揭示, 并在提交候选后才运行. 对 kernel 优化, 不仅检查速度, 还要随机形状、数值范围和硬件重复; 对训练算法, 不仅检查一个规模的验证损失, 还要改变数据顺序、随机种子和模型尺寸. 这些变化分别攻击硬编码、数值取巧和对固定预算的过拟合.

4.3. 人仍位于循环的哪些位置

实验室披露「AI 写了多少代码」时, 这个比例只覆盖执行劳动. 研究方向由谁选择、什么算有价值、异常结果是否可信、何时扩大实验、失败是否值得继续, 都属于 $U$ 或 $C$. 模型写完实现, 人决定保留哪条线, 整个系统仍可能是人类改进器加模型执行器.

人类退出某个步骤也不等于该步骤消失. 它会被编码进目标函数、提示、测试、资源上限和升级权限. 判断自动化深度时, 应沿着一次发现的因果链追踪这些决定由谁控制. 只要新系统无权改变研究问题和验收语义, 它的自主性就止于给定边界内. 这条边界不会贬低自动研究的价值; 它明确了系统已经替代哪类劳动, 以及下一步真正困难的是把哪一种判断交给机器.

自动研究与 RSI 最终在同一个问题上相遇: 系统能否把一次实验所得的知识, 转化成以后更会做实验的研究策略, 并用自己碰不到的证据确认这种转化. 前半句要求保持和因果作用, 后半句要求外部审计. 两者同时成立, 自动化实验循环才从更快执行研究, 走向可验证地改进研究过程本身.