Garrison Lovely 的《Obsolete》：为什么他把 AGI 竞赛称为“让人类过时的项目”

一、嘉宾背景

Garrison Lovely 在本期中被介绍为住在布鲁克林的自由记者，也是《Obsolete: The AI Industry's Trillion-Dollar Race to Replace Us and How to Stop It》的作者。节目主题正围绕这本书展开：前沿 AI 公司是否正在进行一场以替代人类劳动为目标的竞赛，以及这种竞赛应如何受到政治、劳动组织、公众授权和安全治理的约束。

Nathan Labenz 在开场中特意说明，Lovely 的写作面向左翼读者，来自左翼政治视角，但这并不意味着他把 AI 风险处理成硅谷炒作。相反，Labenz 认为 Lovely “get it”：他严肃对待公司明示的目标，也就是制造在认知工作上比人类更强的系统，并承认它们可能在不远的未来做到这一点。

Lovely 的相关经验不仅来自旁观。他在节目中被描述为 Irreplaceable 相关人物，该组织试图在政治场域争取 “a say, a stake, and a slowdown”。他还在访谈中谈到自己会给潜在吹哨人建议，并把书籍版税捐给 Irreplaceable。因此，这不是一场单纯的书籍宣传访谈，而是一次关于作者、记者、运动建设者如何把 AI 风险、劳动替代和民主授权连成同一个政治议题的长谈。

二、本期主要内容

这期节目分析的是 Lovely 对前沿 AI 竞赛的整体论证。Labenz 把讨论框定为：如何保留深度学习在医学、材料科学等领域的收益，同时阻止公司冲向递归自我改进，或制造让人类过时的系统。Lovely 的核心重命名是 “obsoleting project”：他把 AGI 产业从中性的“技术进步”，改写为一个试图让人类劳动过时的项目。

访谈首先从 Lovely 本人的 AI 使用谈起。他说自己不用 AI 写作，部分原因是 AI 写作在新闻行业迅速被污名化；但他确实大量使用 AI 做转录、NotebookLM 文档问答、访谈整理、反馈、事实核查、研究和图书网站工具。这个细节很关键：Lovely 并不是以“不懂工具”或“拒绝工具”的身份批评 AI。他承认 NotebookLM 能把大量访谈按主题整理成表格，也承认 AI 能抓到真实错误和遗漏。

但他同时划出边界。NotebookLM 会幻觉，也会漏掉材料；AI 反馈可能很蠢，事实核查可能把正确内容说成错误。他描述自己写书时接近 “Claude psychosis”：几分钟内得到整本书反馈确实有帮助，却也会诱导他修补并不存在的问题，在疲惫时依赖 AI 的正向反馈。由此他得出的结论不是“AI 无用”，而是知识工作者越依赖 AI，越需要知道自己在做什么、模型擅长什么，以及何时必须停止听它。

随后，节目转向美国左翼为什么长期低估 AI 风险。Lovely 的解释有三层：左翼阵营中有影响力的 AI 怀疑派和 “stochastic parrots” 框架塑造了许多人的信任对象；crypto、NFT、metaverse、社交媒体等旧科技泡沫让人形成“科技人又在吹牛”的模式识别；而“AI 泡沫论”还有心理安慰作用，因为它让人不必组织起来对抗替代人的机器。Lovely 用左翼语言把风险说得更尖锐：如果资本能直接转化为劳动而不经过工人，劳动份额就可能被压向零。

Labenz 也代表许多 AI 使用者提出反方压力测试：他每天从 AI 获得巨大价值，AI 替他处理了许多工作，也在反事实意义上替代了他可能雇佣的人。他还提出农业机械化类比：自动化曾让极少数人即可供养社会，其他人则去做别的事。Lovely 接受自动化曾提高生活水平，但坚持“自动化一些劳动”和“自动化所有劳动”不是同一类事情。后者是通用劳动替代机器，会同时影响收入、招聘、议价能力、身份和政治权力。

这条线索引出 Lovely 的积极方案。他并不主张退回前技术时代，而是希望建设某种“第三个 New Deal”：Medicare for All、本地执行的就业保障、福利国家、公共技术投资，以及 “cures for all”。他设想政府像对待 COVID 一样对待疾病，按可行性和疾病负担排序，使用 advanced market commitments、疫苗试验、人类挑战试验和有用的 AI。对于药物发现，他主张 prize system：社会先指定想要的药物，成功后奖励开发者，再以 generic costs 生产，避免专利垄断把 AI 能力导向最赚钱而非最重要的药。

后半段转向治理杠杆。Lovely 认为，AI 研究员和工程师现在的权力接近顶峰，因为前沿公司仍需要他们训练模型；一旦递归自我改进实现，AI 能训练下一代 AI，员工杠杆将消失。他建议内部反对者不要只把辞职爆料当作唯一方式，而可以留下来组织关心安全的同事，通过工会、集体谈判、withholding labor、罢工和 work slowdowns，让安全承诺具备约束力。他以 OpenAI superalignment team 未实际获得承诺的 20% compute 为例，说明如果缺少组织化的反力量，管理层可以在商业和竞赛压力下单方面改变安全承诺。

三、核心观点：推理、例子与边界

Lovely 的第一个核心判断是：AI 风险不能被简化为“技术有没有用”。他承认深度学习会继续发展，也承认专用系统可以用于疾病、材料科学和公共目标；他反对的是 AGI 行业中的 “obsoleting project”，也就是以让人类劳动过时为方向的项目。这个区分把争论从“拥抱还是拒绝 AI”移到一个更具体的问题：谁有权制造通用劳动替代机器。它的难点也在这里。何种系统已经从工具型 AI 变成通用劳动替代系统，边界并不总是清楚，因此 Lovely 后来才强调，冻结前沿时应先采用较宽定义，再逐步校准。

第二个判断是，公司动机不能只用逐利来解释。Lovely 认为，早期 AGI 公司创始人更多受使命驱动，资本是在意识到其中价值后才大量涌入。他把 Sam Altman、Dario Amodei、Demis Hassabis、Elon Musk 等领导者的动机描述为理想主义、不可避免感、历史伟人欲望、救世主情结，或 “better us than them”。这让问题更加棘手：如果领导者只是逐利，市场和监管还能按传统公司模型施压；如果他们相信自己正在人类命运的关键现场扮演角色，就更可能把反对意见理解为短视或落后。

第三个判断是，传统“技术对齐”不是充分解法。Lovely 批评 AI safety 过度聚焦如何让强 AI 做用户想做的事。他提出 “alignment polycrisis”：除了技术对齐，还必须面对规范、经济和地缘政治对齐。RLHF 是他最具体的例子：它由 Paul Christiano 等人在 OpenAI 出于安全原因发展，却也让 LLM 更对话化、更实用，促成 ChatGPT 及后续浪潮。换言之，对齐技术可能同时是安全工具和能力加速器。Lovely 并不是证明所有技术对齐都有害，而是在指出，即使技术对齐成功，也无法自动回答系统应由谁拥有、外部性由谁承担、系统是否应该被建造。

第四个判断是，市场纪律不足以处理 AI 外部性。Lovely 承认市场会鼓励公司避免让 AI 公然失控，但他质疑这种激励是否足以覆盖全部风险，还是只够做出可销售产品。他指出，现有 AI 已经表现出懒惰、幻觉、迎合用户并编造内容等错位行为，却仍然卖得很好；他还说，如果 AI 公司造成 1000 万人死亡的灾难，公司可能在赔付社会损失前就破产，保险公司也会因为风险过大且高度相关而拒绝承保。这个论证的边界在于，严格责任、保险、采购标准确实可能改善部分行为；但 Lovely 认为，它们无法处理灭绝后无人可赔的问题，也无法替代公众对通用劳动替代机器的授权。

第五个判断是，冻结前沿必须从口号进入可操作定义。Lovely 提出，不允许进行大于或等于既有最大规模的新训练运行，不再做以能力提升为目标的 verifiable rewards 强化学习，不允许递归自我改进。他赞成对 RSI 采用宁可过宽的定义，因为误判的后果不对称；但他也承认，如果让整个行业回到“人类速度”，会带来显著经济后果，需要缓解。这并不是“停止所有 AI 使用”。他明确说，客户推理服务通常不算推进前沿，而超过历史最大模型的预训练和许多 RL 实验更可能推进前沿。

第六个判断是，国际治理的难点主要在可信核查与政治意愿，而不只是技术细节。Lovely 设想在公司内部嵌入审计员，让他们拥有 Slack、邮件、办公室等员工级访问权限；在国际层面，则可以使用审计员、国际机构、密码学、芯片盘点，以及数据中心或芯片网络流量核查，在不泄露模型权重或国家机密的情况下确认活动。他还借冷战军控类比说明，敌对国家并不需要互相信任彼此的善意，而是需要可单方面验证的安排。

第七个判断是，“中国会领先”不是 Lovely 接受的决定性反驳。他认为，如果美国放慢或停止，至少会在一段时间内减缓中国，因为中国一直采取 fast follow 策略，通常落后美国前沿约 3 到 9 个月；美国若严肃监管，反而可能向中国证明风险真实。他还认为，中美都有自利理由阻止 rogue hacker AIs，以及能够帮助任何人制造生物武器的 AI。这里仍有不确定性：Lovely 承认中国开发者最终可能超过停止后的美国前沿，但他判断，追上后速度会慢于 fast follow 阶段，并且中国共产党不太可能自愿允许失控式递归自我改进。

四、学习与应用

对知识工作者来说，本期最直接的应用不是“用不用 AI”，而是建立使用边界。Lovely 的实践说明，AI 很适合转录、材料检索、访谈整理、初步事实核查和小工具原型；但越是接近判断、解释、事实确认和写作责任，越要保留人的直觉与核查。一个实用规则是：把 AI 当成扩大检索和组织能力的助理，而不是替代判断的编辑。若模型开始诱导你修补不存在的问题、用正反馈稳定情绪，或让你感觉忙却没有前进，就应降低使用强度。

对政策讨论者来说，Lovely 的框架要求把“AI 自动化是否有益”拆成多个问题：它是在替代危险、低价值、没人愿意做的任务，还是在建设通用劳动替代机器？收益是否被专利和垄断锁住，还是通过 prize system、公共投资和 generic costs 转化为公共品？某个 AI 医疗项目是 AlphaFold 式专用系统，还是以超级智能为万能钥匙的论证包装？这种拆分既能避免把所有 AI 一起封禁，也能避免用某些医学收益为不受控 AGI 竞赛背书。

对公司员工，尤其是前沿 AI 研究员来说，Lovely 的建议是把个人良心转化为集体杠杆。辞职和公开发声有时重要，但如果公司仍依赖你的劳动，组织同事、建立安全导向的工会、要求可执行的安全条款，可能比单人抗议更有制度力量。前提是理解劳动法、报复风险和声誉保护的边界；Lovely 自己也承认他不是相关专家，并建议有兴趣的人联系更懂的人。

对企业采购者和用户机构，本期提供的应用边界是：不要只问模型是否便宜、强大、好集成，也要问供应商如何证明安全标准、事故责任、日志与审计、保险缺口和红队结果。Lovely 不认为市场采购能解决全部问题，但采购标准可以成为外部压力的一部分，尤其是在政府监管滞后时。

对公众运动建设者，本期的启发是用“大帐篷”组织多个入口：有人担心工作，有人担心环境，有人担心数据中心，有人担心监控，也有人担心存在风险。Lovely 借气候运动经验说明，即时伤害与长期风险不必互相排斥；清晰诉求可以是“停止替代我们的竞赛”或“冻结前沿”。但应用时也要避免把数据中心暂停误当成充分解法，因为他明确提醒，若不监管模型开发者、芯片制造商、出口控制和训练活动，单靠地方项目反对很难改变能力进展。

对吹哨人和内部信息源，Lovely 的建议更具体：先联系 AI Whistleblower Initiative 或可信记者，了解法律、职业和媒体风险；他强调自己默认把 inbound 当作 off the record。边界同样重要：他不是律师，California SB 53 等保护也需要专家解释。这里的核心应用不是鲁莽公开，而是把公司内部最早知道的危险信息，通过法律和新闻伦理尽可能安全地转化为公共知识。

最终，这期节目给出的学习不是一套完整蓝图，而是一组治理判断：通用劳动替代机器需要比普通产品更高的授权门槛；技术对齐不能替代经济、政治和国际治理；公共收益需要制度设计，而不只是更强模型；如果公司、CEO 和员工都被困在竞赛囚徒困境中，外部公众组织就不是装饰，而是 Lovely 所说的、可能把轨道扳向更好未来的力量。

来源

• 原始节目：Obsolete or Irreplaceable? Garrison Lovely on Stopping the Race to Replace Human Labor