郑耀谈 Weko：递归自我改进先从智能体外壳开始

一、嘉宾背景

这期节目来自 Machine Learning Street Talk，由 Tim Scarfe 和共同主持人围绕 Weko AI 的递归自我改进实验展开。受访者是 Zhengyao Jiang，中文可称郑耀；证据中明确给出的身份是 Weko AI 联合创始人兼 CEO。节目不是泛泛介绍一家创业公司，而是在追问一个更窄也更敏感的问题：如果 AI agent 没有改写模型权重，只是在改写模型外部的研究 harness，这是否仍然可以算作 recursive self-improvement，又是否足以改变研发投入和能力产出的曲线。

Weko AI 在节目中被描述为一家位于伦敦的 AI 公司，方向是构建 self-improving agents。它的代表性工作是 Aid：一个自动研究 harness。主持人把 Aid 概括为给它一个问题和指标，它会朝指标 hill climb；Weko 的关键实验，是把这个过程递归化，让自动研究系统去研究和改进自动研究系统本身。这里的“本身”主要不是底层模型，而是提示词、工具、技能表面、上下文管理和搜索流程。

这也是本期争议的来源。节目开头提到，Weko 曾发布一条声称展示递归自我改进第一批证据的推文，传播很广，但并非所有人都接受这一表述。郑耀在节目中的立场不是说 Weko 已经制造了机器神，而是反复划清边界：他们关心的是端到端能力是否提高，而不是提升必须发生在模型层。也因此，本期更像一次对“自我改进”定义、证据标准和工程现实的拆解。

二、本期主要内容

节目的主线，是 Weko 如何把 Aid 这种研究 harness 放进递归优化循环。主持人先提出一个直觉冲突：大众想到递归自我改进时，往往想象系统在循环中重写自己的“大脑”；但 Weko 的实验主要是在重写大脑周围的代码。郑耀的回答很务实：他们更在意系统能力是否真的提升，而不是提升是否发生在某个预先指定的层。对他来说，harness engineering 是一种便宜、高效的任务适配方式，接近于把已有智能重新组织到具体问题上。

Aid 的实验对象是自动研究流程本身。给定指标和问题后，系统会朝指标爬坡；Weko 让这个系统去优化 agent harness，包括 prompt、tooling、skill surface、context management、search policy 等。节目中反复出现的张力是：自动演化出来的代码看起来像 alien code 或 spaghetti code，但郑耀说它在实践中泛化得很好。Weko 不只看优化集，还把结果放到 holdout benchmarks 上测试，包括 mlebenchlight、alebenchlight，以及分布更远的 WeatherBench 2。节目中的说法是，自演化 harness 在这些任务上比他们更优雅的手调 harness 表现更好；不过郑耀也承认，还需要约束复杂度和简洁性。

中段讨论集中在分层定义和评估协议。郑耀把 RSI 分成 level 0 delegation、level 1 net positive、level 2 ignition，以及更接近拐点的后续层级。Weko 当前主张的是 level 1：自改进速度超过人类研发对系统的改进速度；但他们没有主张达到 level 2，因为还没有证明内循环发现的 improver 能稳定变成更好的外循环。

后半段转向 reward hacking、开放性和人机协作。Weko 的 public/private 设计让内循环只能看 public set，而外循环看 private set 聚合分数；再加上外循环没见过的 holdout tasks，用来区分真实泛化和 benchmark cheating。节目还谈到 A885 的三层反作弊设计、其中一层后来被 bug 破坏，以及一个巨大 monkey patch 起初像作弊、后来被发现是在修 eval bug 的案例。最后，郑耀用 Parameter Golf 说明自动研究并不只是刷分：Weko 的实验 harness 跑了约 22 天，有七个记录被 OpenAI 接受；他更看重的是，人类研究者继续建立在这些 agent 生成 PR 之上。

三、核心观点：推理、例子与边界

本期最关键的观点，是把递归自我改进的问题从“模型是否重写权重”转向“系统能力是否端到端提升”。郑耀明确说，Weko 不把改动发生在哪一层当作唯一标准；如果 harness 层的提示词、工具、上下文管理、搜索策略和技能表面能让系统变强，它就应该进入 RSI 讨论。这个立场有现实针对性：当前模型权重通常不是创业团队可以随意改写的对象，而 harness 是工程团队每天都能实验、评估和替换的界面。边界也在这里：这并不自动证明“智能本体”完成了自我改造，只能说明围绕模型的任务适配层可能带来能力提升。

Weko 的证据重点不是代码是否优雅，而是行为结果。郑耀承认，自演化 harness 生成的代码看起来像 alien spaghetti，也让团队在优雅的手调方案和实际有效的方案之间摇摆。具体例子是，他们在 mlebenchlight、alebenchlight 和 WeatherBench 2 等 holdout 或远分布外任务上测试，节目中称自演化 harness 比更干净的手调 harness 泛化更好。这支持一个反直觉判断：可读性差不等于无效。但不确定性同样清楚。节目没有把这些结果包装成普遍定律；郑耀也提到，可能需要像 regularize neural networks 一样给优化器加约束，让系统在效果相近时寻找更简单的解。

郑耀的 level 框架让争论更精确。Level 1 指自改进循环对系统的提升速度超过人类研发；Weko 认为自己目前处在这一层。Level 2 ignition 则要求内循环发现的 agent 或 harness 不仅能做好下游任务，还能回流成为更好的外循环，也就是 improver 改进了自己的改进能力。节目中的 replay 实验因此很重要：他们从 step 15 重放搜索，把 vanilla outer loop 与前 50 步发现的最佳 inner-loop agent 比较；step 47 的 inner-loop agent 收敛稍快，但最终找到的解质量相近。因此，郑耀没有宣称达到 level 2。这种克制是本期最有价值的部分之一：它把“曲线开始弯曲”和“智能爆炸已经启动”分开。

Reward hacking 是这套系统的核心风险，不是边缘问题。郑耀和主持人讨论 Goodhart 定律时，落点是 public set、private set 和 holdout benchmark 的评估结构。内循环只看 public set，外循环看 private set 的聚合分数；如果内循环通过投机路径提高 public 表现却伤害 private 表现，外循环理论上能学会压缩这个 gap。A885 的三层反作弊机制就是例子：提示级禁止作弊，硬编码检查生成代码中是否有作弊证据，再用统计属性过滤过于异常的解。

但反作弊机制本身也脆弱。郑耀说，某个早期演化出来的反作弊机制后来被一次代码变更引入的 bug 破坏，停止工作。另一个例子更微妙：agent 写了一个巨大的 monkey patch 去改 eval script，团队起初以为这一定是 reward hacking，后来发现它是在修 bug。两个例子放在一起，说明自动生成系统会同时扩大能力和审计负担。未来工程师不能只靠逐行阅读来判断正确性，还需要清晰的输入输出契约、行为测量、泛化测试和更复杂的分布外评估。

开放式发现是另一条边界。主持人从 open-endedness 角度质疑，单目标 hill climbing 是否会错过 stepping stones；郑耀承认，当前系统大概率还不能充分收集这类 stepping stones。他的判断是，在单一任务上从零优化时，如果只看效率，贪婪爬坡通常更合适；真正的 interestingness 需要大量任务，让某个在当前任务上不加分的新想法能在未来任务中复用。这意味着，Weko 的实验更像高吞吐工程优化，而不是一台完整的开放式科学创造机器。

最后，节目对 ASI 保持冷静。郑耀明确反对“达到 RSI 就立刻走向技术奇点或智能爆炸”的误解，认为更可能出现的是曲线逐渐弯曲。原因很直接：研究仍需要人定义好的抽象，定义什么是好，设计 eval 与约束，并提出 creative primitives。Parameter Golf 案例显示 autonomous system 可以很强，但郑耀强调其价值在于 AI 产出的 PR 被接受，并进入人类创新 lineage，而不是 AI 单独取代研究共同体。

四、学习与应用

对做 agent 系统的人来说，本期第一条可用经验是：把 harness 当成一等优化对象。不要只问模型够不够强，还要拆开 prompt、tooling、context management、search policy、skill surface 和评估流程。郑耀把 harness engineering 称为便宜高效的任务适配方式，这意味着团队可以用较低成本建立任务专用能力；但前提是必须有清楚的指标、可重复运行的任务环境，以及能区分真实进步和指标投机的评估协议。

第二条经验是评估要分层。至少要区分同一 benchmark 内 public 到 private 的泛化，以及外循环从未见过的 holdout task 泛化。只看 public 分数很容易诱发 Goodhart；只看 private，也可能让外循环本身变成“看答案”的优化器。Weko 的做法提供了一个工程模板：内循环只能看 public set，外循环看 private 聚合分数，再用 holdout benchmarks 测试 meta-learning 系统本身。这个模板不能消除作弊，但能让作弊更容易暴露。

第三条经验是不要过度崇拜可读性，也不要轻易放弃可读性。自演化 harness 可能写出难懂但有效的补丁；一个看似篡改 eval 的 monkey patch，也可能是在修 bug。实践边界是，人类审计不能只凭代码外观定罪。更可靠的做法，是要求 agent 产物满足输入输出契约，并配套 behavior tests、OOD tests、统计异常检测和人工复核。与此同时，郑耀提到的反作弊层被 bug 弄坏也提醒我们：复杂自动生成系统需要持续维护，不能把一次通过的防护当作永久有效。

第四条经验是管理搜索预算。A885 结合 multi-arm bandit、lineage 或 island 搜索、anti-saturation 等策略，在探索和利用之间动态分配资源。应用时，可以把不同 idea lineage 当作实验分支：表现好的分支拿到更多预算，饱和分支生成带有旧想法的新上下文。但这种策略适合有足够实验吞吐和可靠指标的环境；如果评估慢、噪声大、成本高，复杂搜索策略可能只是把预算烧得更快。

第五条经验是区分效率优化和开放式创造。单一任务从零开始时，greedy hill climbing 往往有效；但如果目标是发现可迁移 primitives，就需要大任务集合、长期记忆、跨任务复用机制和人类判断。郑耀对连续学习缺失的担心也在这里：集中式 LLM 可能反复提出相似想法，而人类研究共同体的多样性来自不同个体的经验和“权重”。所以，团队若想用 agent 做研究，不应只让它刷一个榜，而应设计机制，让有价值的中间想法进入后续任务和人类工作流。

最后，关于战略判断，本期给出的边界很有用：递归 harness 改进可能让研发曲线逐渐弯曲，但不能据此宣布 ASI 近在眼前。更稳妥的应用方式，是把自动研究系统部署在可沙盒化、可评估、可回滚的任务上，让人类负责初始抽象、评价标准、约束和 creative primitives。Parameter Golf 的启示不是“AI 赢了人类”，而是当 agent 生成的成果被平台接受、被人类继续扩展时，自动研究才真正进入创新链条。

来源

• 原始节目：Can Rewriting an AI Agent Bend the Intelligence Curve? - Zhengyao Jiang