谁在相信机器之神：Kevin Roose 谈 AGI 竞赛的信念、现金流与能力边界

一、嘉宾背景

Kevin Roose 是记者、作家，也是 Machine Gods 的联合创始人、主持人及 CEO。此前，他曾任《纽约时报》记者和 Hard Fork 主持人。在这期由 Nilay Patel 主持的 Decoder 中，他既以媒体创业者的身份谈经营，也以报道者的身份解释前沿 AI 实验室的文化。《The AGI Chronicles》的写作，则让他接触到这些组织的历史材料与内部叙述。

Roose 与 Casey Newton 创办 Machine Gods，希望探索一种在经济和创作上都能持续的视频新闻形式，同时照顾音频听众，并在多个平台分发。如何制作节目、服务不同受众并获得收入，成为他自己需要处理的问题。访谈介绍了这一创业方向，但没有证明它已成为成功模式。

Roose 将目标受众定位为“AI realism”：对 AI 好奇、感到担忧，但仍愿意理解它的人。这种定位也贯穿他的报道工作。写作《The AGI Chronicles》的动机之一，是抢救可能流失的历史材料：通信会被自动删除，研究者又未必留下充分笔记。大量采访采用背景交流方式，帮助他收集和保存相关叙述，也限制了读者独立核验的范围。接近行业、采访人物和重建过程，是他理解实验室的主要方法；这些经验提供了观察内部世界的入口，但不能单独裁定 AGI 是否可达。

二、本期主要内容

同一场 AI 竞赛，在 Roose 与 Patel 的讨论中呈现出两套解释。Roose 试图说明，研究者为什么认真相信自己正在走向通用人工智能，并据此筹资、招聘和集中资源；Patel 则不断追问产品需求、组织能力和实际表现：这些行动究竟在多大程度上源于 AGI 信念，又有多少可以用商业逻辑解释？

在 Roose 的历史叙述中，Google 于 2017 年开发并公开 Transformer，是一个关键转折。AGI 理想由此获得了一条可通过规模扩展推进的技术路线，OpenAI 随后将其推进为产品。但路线的出现并未带来一致的确信。据 Roose 观察，Anthropic、OpenAI 和 Google 对 AGI 的信心程度不同，Google 内部的“Say AGI”备忘录及其反对意见，尤其显露出目标与术语上的分歧。讨论是否使用 AGI 这个名称，也是在讨论公司究竟要沿什么方向推进研究。

资金让技术目标与日常经营直接相连。在 Roose 的解释中，企业 SaaS 收入支付 GPU 和研究者薪酬，为继续推进前沿研究提供资金。他援引 Amodei 在 2021 年文件中的预估：约 100 亿美元、最多约 50 人可能实现 AGI；与之对照的是，他称 Anthropic 当时约有 5000 人。这组数字呈现了早期预期与他所描述的组织规模之间的距离。它们属于 Roose 的引述和约数，不能据此推算 AGI 的最终实现成本。

Roose 用另一个假设说明管理压力：一家公司若在五年内从零收入走向潜在 2 万亿美元 IPO，管理者将面对怎样的组织扩张？他还转述一位匿名人士的看法，称其公司可能成为最后一家主要由人类经营的大公司。这不是对商业终局的证明，却透露出部分从业者理解日常经营的方式：他们可能认为，自己管理的是一家通向历史转折的公司。

对于市场格局，Roose 预测 OpenAI、Anthropic、Google 及另外一两家公司可能成为主要赢家，少数 AGI 将同时存在。他认为，巨额投入未必需要 CEO 独自承担全部信念；有决策影响力的坚定信徒群体，或与 AGI 投资相契合的竞争动机，也可能支撑这种投入。技术路线、收入来源与组织信念因此紧密相连。它们能否在收益兑现之前持续相互支持，访谈没有给出定论。

三、核心观点：推理、例子与边界

在 Roose 看来，AGI 信念既能动员资源，也会带来经营盲点。确信自己正在建设超人智能的管理者，可能觉得推理利润率和下一批企业客户过于琐碎；同样的确信，也可能让组织敢于提前押注算力。Patel 对后一种解释提出异议：如果企业客户需要更多 AI，扩大供给本来就有商业理由。这场访谈不足以判定哪种动机占主导，投入规模本身也无法衡量一家公司的 AGI 信仰。

双方围绕编程的分歧，把问题推进了一步。Roose 将 OpenAI 收缩 Sora 等项目、集中发展编程模型和长时程智能体，解释为追赶 Anthropic，并争取让模型反过来改进自身研发。按照这一思路，编程产品既能产生收入，也能成为研究基础设施。但从模型帮助写代码，到持续改善下一代模型，再到这种改善足以抵达 AGI，中间仍有多步需要证明。Roose 给出的是对公司战略的解释；访谈没有展示递归自我改进已经形成持续加速循环的证据。

这条路线能走多远，也取决于如何理解现有能力。Patel 提醒，当前系统不仅依赖下一词元预测，还依赖强化学习和智能体运行框架。Roose 认为 LLM 可能通向 AGI，但并不确定，也承认下一词元预测为何能够如此广泛地奏效，仍有未解之处。他回顾研究者曾期待将 DeepMind 在游戏中的强化学习路线推广到其他任务，并认为不依赖 LLM 的路线没有兑现相关期待。这段历史提醒人们，看似合理的扩展路径也可能受制于尚未显现的条件。Roose 同时承认，未来可能需要架构调整或持续学习；他的乐观并不意味着现有 Transformer 只要不断放大就一定足够。

谈到 Sydney，Roose 明确否认自己曾认定它有生命或感知能力。他将当时的震撼归因于早期 GPT-4 的能力跃迁，以及尚未充分完成的后训练。他认为，模型的拟人对话能力已趋于饱和，数学和科学中的新问题求解仍有进步空间。对话像人、具备实用能力、具有意识和达到 AGI，是需要分别举证的判断。模型多次突破他预想的平台期，逐渐增强了他对 AGI 的信心；这解释了他的判断如何变化，却不足以证明未来不会出现平台期。

Patel 的反例来自一次个人使用经历：他让 Muse 在政府网站填写文档，系统却未能完成任务。数学和编程往往能提供可验证的反馈，现实流程却未必会明确告诉系统哪里出了错。他承认 Claude 等工具已经实用，追问的是这种实用性能否延伸为更普遍的可靠性。他希望看到系统把失败转化为长期记忆，并据此改善后续行为；递归自我改进若能做到这一点，可能改变他的怀疑。这提出了一个可检验的方向，但单次使用经历仍不足以代表所有智能体。

对于明知风险却继续开发 AI 的理由，Roose 根据约 150 人的采访归纳出三类回答：别人终究会做，由自己推进更有机会减害；相信未来能够带来巨大福祉；以及研究本身的乐趣。这些理由解释了竞赛为何持续，却不能证明风险已经受到控制。他还转述一位 CEO 的承认：重大的社会收益至今仍然不多。聊天机器人先于癌症疗法出现，是对收益兑现顺序的遗憾；AI 药物挽救祖母，则仍是未来设想。这样的承诺不能提前算作成果，也不能自动抵消眼前的问题。

决定方向的人是谁，同样是争论的一部分。Roose 描述了前沿 AI 圈跨公司的婚恋关系、局域网游戏和扑克局；Patel 据此追问，圈外公众如何参与，年轻公司又能否承受自身的雄心。密切交往本身不等于合谋，但技术能力之外，决策权如何分配仍需单独讨论。Patel 用“software brain”质疑从编程成功外推所有领域的倾向；Roose 则更倾向于用计算过程解释认知，同时承认自己并非相关神经科学专家。他还预测会出现 AI 宗教。对认知与未来的不同理解，有助于解释双方为何对同样的技术进步作出不同判断，却不能代替解决技术争议所需的经验证据。

四、学习与应用

分析 AI 公司战略，可以从并列检验两种解释开始。扩充算力可能是为了满足客户需求，也可能是在为未来能力提前布局；聚焦编程可能改善收入，也可能服务模型研发。要判断哪种解释更有说服力，需要查看资源实际投向、产品需求变化，以及研发流程是否出现可验证的改善。Roose 与 Patel 的分歧提供了这种分析思路，但节目并未完成对相关公司的审计。缺少数据时，应保留并存的解释，不能把管理者的使命叙事直接写成唯一原因。

Patel 的政府网站经历，则提示智能体部署者先检查任务如何提供反馈。试用一个流程之前，需要明确怎样才算完成、系统能否识别某一步失败、由谁确认结果，以及失败经验能否在后续尝试中被调用。可以先从结果容易核验、错误容易纠正的步骤开始；对于反馈模糊或结果难以撤销的步骤，保留人工确认。这样会降低自动化程度，却能帮助区分系统看似能够操作与实际可靠完成任务之间的差距。还需要重复执行任务，检查同类错误是否减少，而非仅观察系统能否在一次对话中接受纠正。这回应了 Patel 对长期学习的要求，并不预设现有系统都缺乏相应能力。

采购模型时，Roose 对开放权重的判断更适合作为成本比较的起点。他反对开放权重必然消灭定价权：开放模型仍有推理成本，部分用户愿意为最强模型付费，限制蒸馏之后的追赶速度也存在不确定性。实际选择仍需围绕具体任务，比较部署、运行、核验和失败返工的成本，再判断额外能力是否值得额外支出。能力要求较低的流程未必需要最强模型，困难任务中的低价也未必意味着较低的总成本。节目没有提供可直接计算的成本表，Roose 的市场判断仍属预测，不能据此直接决定采购，更不能断言开放路线必败。

报道和研究中，材料的性质也需要始终清楚。早期创始文件中的预测、当前人数的约数、未来估值的假设，不能拼接成一条已获证实的最终成本曲线。采访记录则应保留来源条件、原始说法和可核验材料。Roose 抢救历史的工作说明，口述材料可能十分珍贵；但保护背景交流与允许读者独立核验之间存在取舍，采访数量无法消除这一限制。

媒体团队可以从 Roose 提到的 Claude Code 建站演示中获得另一个启发：受众表达的态度与观看行为需要分别观察。据他所述，Hard Fork 那段约半小时的演示表现良好，尽管评论中有许多反 AI 声音。这支持尝试让受众直接观看工具如何工作，却不足以推断负面评论都不重要。若据此开展内容实验，仍应检查观看、留存、反馈和观众的具体困惑；本集没有提供观看或转化数据。

治理讨论同样需要区分不同证据。未来医疗收益应与已经兑现的成果分别陈述，开发者的减害动机也不能代替公众参与的机制。跨实验室的社交关系可以成为追问共同规范的入口，但要判断权力如何行使，仍需核实具体决策与监督安排。

来源

• 原始节目：Inside the race to build the machine god | Decoder