递归自我改进不等于“用 AI 做 AI”：Maker Maker 如何拆解闭环、成本与起飞边界

一、嘉宾背景

这期节目来自《a16z / The Ben & Marc Show》，题为《Recursive Self-Improvement and the Future of AI》，由 Marc Andreessen 和 Ben Horowitz 主持，a16z 于 2026-10-12 上传。节目时长 1,926 秒，约 32 分钟，主题集中在 AI 系统能否以及如何改进自身，而不是泛泛讨论 AI 行业趋势。

本集可识别的嘉宾是 Owen 与一位未具名的 Maker Maker 联合创始人。未具名联合创始人在开场介绍自己曾学习物理，在 MIT Media Lab 攻读强化学习博士，并喜欢“building things”；他还说，自己正在与 Owen 和 Grace 一起建设 Maker Maker。Owen 则说自己先学数学，因形式语言、逻辑和定理证明器进入 AI，博士阶段研究 continual learning 与 meta learning，之后曾在 DeepMind 担任 research scientist，现在从事 RSI。

这些背景决定了本集的讨论方式。两位嘉宾不是以宏观预测者身份谈“AI 会不会爆炸式进步”，而是以 AI 研究者和创业者身份解释 Maker Maker 正在推进的工作：递归自我改进、多智能体系统，以及 prompts、harnesses、weights、chips 等 AI 栈层的协同优化。因此，这期节目更像一次技术路线访谈：主持人不断追问定义、度量、成本与边界，嘉宾则从自己的研究和公司实践出发作答。

二、本期主要内容

节目首先处理一个最容易混淆的问题：什么才算 recursive self-improvement。嘉宾说，RSI 已经成为一个被过度使用的词，很多人把“用 AI 创造 AI”称为 RSI，比如用 AI 生成 GPU kernel。但在他们看来，判断标准不是工具链里有没有 AI，而是要问两个问题：谁是 optimizer，谁是 optimized。如果仍然是人类提出关键想法、选择方向、判断结果，那么即便 AI 工具越来越强，这也仍是人类带着工具进行改进。

主持人把这个区别放进更长的技术史中：计算机帮助设计更好的计算机，互联网让远程协作更高效，蒸汽机让煤炭运输更快、从而帮助制造更好的蒸汽机。这些例子说明，“用某种技术加快该技术体系的发展”并不新鲜。嘉宾同意，并把它称为 autocatalysis。区别在于，过去提出改进思想的“人脑”不是被优化对象；而现在，模型或智能体的“脑”本身可能成为被优化对象，优化者与被优化者开始重合。

随后，节目围绕闭环、成本和可测性展开。嘉宾用 numerator/denominator 框架解释：能力提升速度可以看作性能收益与成本、难度、资本或能量之间的关系。如果性能端固定而难度不断上升，进步会趋于平台；如果更强的系统也更会改进自身，提升可能保持稳定；只有当性能端与能力呈更高阶关系时，数学上才可能出现指数式起飞。但主持人提醒，闭环系统不等于必然起飞，非线性系统可能收敛、发散、震荡或被噪声支配。嘉宾接受这一约束，并反复强调，答案必须来自实验测量。

三、核心观点：推理、例子与边界

本集最重要的观点，是嘉宾试图把 RSI 从一个容易被滥用的口号，重新拉回到系统问题。按照他们的定义，RSI 的关键不在于 AI 是否参与研发，而在于优化者和被优化对象是否真正形成闭环。人类用 AI 写代码、改 kernel、设计实验，当然可能提高研发效率；但如果关键想法、方向选择和结果判断仍然主要来自人类大脑，那更接近技术史上常见的自催化进步。真正的新可能，是模型或 agent 的“脑”本身也被纳入改进对象，改进后的认知能力又投入下一轮改进。这也是嘉宾反复强调闭环的原因：如果系统每一步都需要人类补上关键缺口，它就还不是他们所说的 RSI。

节目没有把闭环直接等同于起飞。主持人从网络和控制系统经验出发追问：一个带反馈箭头的图，并不能说明系统会指数增长。嘉宾也承认，这不是写出 differential equation 就能解决的问题。深度学习本身仍缺少完整学习理论，RSI 还在其上叠加了多层 agent、评估、训练、工具和部署系统。眼下较接近理论依据的是 scaling laws，但它们仍是经验规律。因此，本集对 RSI 的推理始终带有限定：闭环创造了可能性，但系统最终是平台、震荡、缓慢改善还是快速起飞，必须在具体任务、具体指标和具体成本结构下测量。

成本框架是第二个核心观点。嘉宾把性能收益称为 numerator，把资本、难度、算力、能量、人类工时、实验次数和心智消耗都放进 denominator。这个框架的价值，是防止把“投入更多资源换来更好结果”误认作 RSI。节目中的 NanoGPT/GPT-2 例子说明，denominator 优化本身非常重要：在相同硬件和数据条件下，算法、数据和 kernel 技术可以显著降低训练成本与时间。但嘉宾也明确区分：降低 denominator，不等于证明系统产生下一轮改进的能力，也就是 numerator，正在增强。

他们对公司组织的看法同样关键。Maker Maker 的路线不是让一个全自动数字 agent 替代所有人，而是构建混合多智能体系统；人类研究员和工程师也是其中的特殊 agent。嘉宾明确说，优秀研究员和工程师带来的价值很难被当前 agent 简单替代。因此，“递归改进公司”并不意味着把人清空，而是把人类、模型、工具、评估系统和工程栈一起放入可持续优化的框架。这个判断也限制了外界对相关 claim 的理解：只要人类仍在系统中贡献大量判断，评估 RSI 时就必须把这些人类成本计入 denominator。

第三个核心观点是全栈协同。嘉宾反对只在 prompt、harness 或 weights 的单点上做局部优化，因为这些组件相互影响，局部变好可能损害整体系统。他们说自己的方法从统一数学框架出发，把许多看似不同的论文或想法归入更一般的抽象；否则研究容易变成 Feynman 所说的“标本收集”，只是模仿某个人类行为、获得局部提升，却不知道整体系统是否真的变好。Maker Maker 因而把 prompts、harnesses、weights，甚至 chips 都视为可能被递归改进的层级，并从 capital-efficient 的 harness 工作进入 weight updates。

在具体试验场上，他们选择 inference，因为推理既接近 AI 系统本身，又具有直接经济价值。更快、更便宜的 serving stack 能让用户更高效地部署最新开放权重模型；同时，推理变快也会让系统更快采样、运行和评估改进，理论上可能同时改善 numerator 与 denominator。主持人用 KimiK3 追问时，嘉宾说他们不是让单一 LLM 改进一切，而是使用多个 LLM 承担不同任务，并逐渐让 agent 自己选择哪个模型、优化哪个组件；他们还说 master prompt 本身也在持续改进。

本集最强、也最需要限定的 claim，是嘉宾说他们已经看到 numerator 增加而 denominator 固定或下降的“glimmers”。这不是外部独立发表的结果，而是嘉宾描述的内部经验测量；他们同时表示，正因为谨慎，尚未在完全确信前发布细节。节目也解释了为什么必须谨慎：他们测试过许多外部 RSI 论文或公告，发现结果无法在内部基础设施、规模 benchmark 或真实经济问题上成立，往往可能是噪声或 cherry picking。

因此，节目后半段把可信度问题落到方差、噪声和 reward hacking。嘉宾提到，公司内部有一位被称为“viceroy of variance”的工程师，职责是挑战结果、找出哪里错了。面对新 benchmark 或有经济价值的新问题，他们仍然需要“quality time”：数百次实验、细致观察、直觉建立、方差分析，以及对多层 agent 系统中 reward hacking 的排查。主持人补充说，非线性系统可能震荡；嘉宾进一步指出，LLM 高度随机，甚至不同 B200 GPU 的物理差异也可能在高层结果中被放大。

最后，嘉宾为 RSI 的边界提供了一个去神话化解释：智能不是单一标量，而是多维向量。某些维度可能快速起飞，某些维度可能平台化或缓慢改善。Amdahl 定律式瓶颈会限制整体速度：即使数字部分快一千倍或一百万倍，如果它只占总流程的一小部分，整体加速仍受其他环节约束。因此，代码和数学这类评估便宜、反馈快速的领域更可能快速改进；药物发现则要经过湿实验和临床试验，每个新想法可能需要数月评估，物理世界会锁住迭代速度。主持人最后总结他们的立场：他们追求的是系统改进完整系统，包括 harness 和 weights，并声称看到性能与成本同时改善的迹象。这个总结准确，但仍应被理解为节目中嘉宾的经验判断，而不是外部验证事实。

四、学习与应用

理解这期节目，第一步是不要把所有“AI 帮助 AI 研发”的案例都归入 RSI。更实用的分析方法，是先画出 optimizer 和 optimized：谁提出改进方向，谁执行实验，谁判断结果，谁在下一轮中被改变。如果人类仍承担主要认知劳动，那么它可能是高效研发、自动化工程或自催化加速，但未必是严格意义上的递归自我改进。这对投资、产品评估和技术路线判断都很重要，因为同样的宣传语背后，可能只是工具效率提升，也可能是闭环系统能力发生变化。

第二步是把 denominator 写全。评估一个 AI 研发系统时，不应只问 benchmark 分数、模型发布时间或单位任务速度，还要问资本、GPU、实验次数、工程师时间、研究员判断、失败实验和心智成本。节目中 Maker Maker 会跟踪实验成本、时间和资源，甚至用内部 leaderboard 暴露成本。这给团队管理提供了一个可借鉴原则：只报告最终性能，容易把高消耗试错包装成智能提升；同时报告资源账本，才可能判断系统是否真的更有效率。

第三步是区分 denominator 优化与 numerator 优化。NanoGPT/GPT-2 例子说明，算法、数据和 kernel 改进可以在相同硬件条件下显著降低训练成本，这类工作非常有用，也能产生商业价值。但它主要证明“同样物理资源能做更多事”，并不自动证明系统更会产生下一轮改进。面向实际应用，企业可以先从 denominator 优化落地，例如推理加速、serving stack、实验平台、数据管线和 kernel 效率；但在宣称 RSI 时，必须额外证明系统的改进能力本身也在增强。

第四步是避免单点优化幻觉。嘉宾强调 prompts、harnesses、weights、数据、kernel、硬件之间会相互影响。对工程团队来说，这意味着不能只用一个漂亮指标证明某个 prompt 或 harness 变好，而要看它是否改善完整系统：是否降低整体成本，是否提高可复现性，是否影响其他组件，是否在真实经济问题上仍然成立。统一框架的价值，不在于让研究显得抽象，而在于帮助团队判断局部实验属于哪类机制、会卡在哪些边界、是否真的能够扩展。

第五步是把人类角色纳入设计，而不是默认用“替代人”叙事。节目里，Maker Maker 把公司本身视为多智能体系统，人类研究员和工程师是其中的特殊 agent。这对组织应用很有启发：AI agent 可以承担搜索、生成、评估和执行任务，但高质量研究判断、问题选择、异常识别和框架构建仍可能需要人类参与。边界也同样清楚：只要人类参与关键判断，系统的效率 claim 就必须把这部分成本算进去，否则就会把人类认知劳动隐藏到模型结果背后。

第六步是把度量当成产品能力。闭环系统可能平台化、震荡、噪声放大或 reward hacking；如果没有复现实验、方差分析、反向找错机制和长期观察，团队很容易把选择性成功当成突破。节目中“viceroy of variance”的角色虽然带有内部玩笑色彩，但背后的原则严肃：越是声称系统能自我改进，越需要有人专门尝试推翻结果。应用到企业实践，就是为 agent 评估建立对照组、重复运行、异常审计、成本账本和失败样本复盘，而不是只展示最佳 demo。

第七步是根据领域反馈速度选择应用场景。代码、数学、推理优化这类任务评估快、成本低、反馈密集，更适合做 RSI 或类 RSI 的早期试验。药物发现、机器人、制造，以及任何需要移动原子或等待临床结果的领域，都会受最慢环节支配。即使 AI 让数字部分速度暴增，整体流程也可能只获得有限加速。因此，落地时应先问：瓶颈在哪里，评估一次要多久，反馈能否自动化，错误代价有多高，物理世界是否限制迭代频率。

最后，节目给出的稳妥结论不是“RSI 已经确定起飞”，而是“RSI 的可验证问题已经变得更具体”。如果一个系统能在相同或更低资源下持续产生更强改进，并且这一结果经得起噪声、方差、reward hacking、指标上限和隐藏人类成本的审查，那么它才接近嘉宾所说的递归自我改进。相反，如果只是花更多钱、更长人类时间或更多实验换来更好结果，那仍然可能是好工程，但不应被包装成闭环自我改进。

来源

• 原始节目：Recursive Self-Improvement and the Future of AI