当机器越来越会解题：Ansari与XPRIZE追问目标、激励和人的位置

一、嘉宾背景

本期Moonshots由Peter H. Diamandis主持，特别嘉宾是XPRIZE首席执行官Anusha Ansari，姓名沿用转录中的写法。Salim、Emad等人共同参与，将技术新闻与激励机制、AI对齐和人类使命联系起来。Ansari关注的重点，是如何选择值得解决的问题，并通过竞赛组织人才、资金与验证工作。

据所给嘉宾背景及Peter的介绍，Ansari曾创办Telecom Technologies，参与资助后来以Ansari命名的最初太空飞行竞赛，并以私人身份前往国际空间站。她的经历横跨技术创业、竞赛资助与太空飞行，也构成了她讨论创新机制的背景。节目中的具体技术判断则来自多位参与者，需要分别归于各自的发言。

Peter回忆，1996年宣布最初的1000万美元竞赛时，奖金尚未落实。他计划用已有的50万美元发布消息，引发两名董事辞职；直到2001年底，才获得Ansari一家的承诺。宣布目标与落实资源之间，曾有数年的距离。这段经历也说明，公开目标能够聚集关注，却不代表资金和执行条件已经就绪。Ansari如今强调运用已有平台塑造未来，节目介绍的Visioneering则负责讨论和筛选新竞赛。问题如何选定、成功如何定义、探索如何持续，是这套机制需要不断回答的事。

二、本期主要内容

从交通、机器人到科研，这场讨论反复触及能力展示与现实应用之间的距离。Roadster演示首先把这个问题具体化。节目播放的演示宣称，车辆可借助最高2g的风扇吸附力倒置行驶，并配备两个总容积600升的高压空气罐和10个喷嘴。这些属于演示中的技术说法，节目没有提供独立核验其工程表现的证据。

Peter列出不同版本0—60英里每小时加速分别为1.6、0.9和0.6秒，并转述2028年的生产计划。价格和悬停时长则没有公布。演示采用自动驾驶，所述量产定位却保留手动驾驶，由此引出DOT与FAA之间的监管归属、保险以及人工控制问题。Peter提出，在驾驶者失去抓地力时由AI接管。讨论将其类比为ABS和牵引力控制的扩展，但没有给出完整的接管边界和责任分配方案。

机器人部分聚焦于任务成本。Peter援引RoboDojo RC Tier 1，称模型完成机器人子任务的费用从7月的2.36美元降至9月的0.38美元，下降84%。Emad认为，通用模型可能减少另行开发专用机器人大脑的必要性。嘉宾把成本趋势概括为每三周减半，并外推至一年内接近零；这些判断超出了已报告数据本身。所述测试限于特定设置中的机械臂和类人机器人任务，不能直接代表全部现实工作的成本变化。

控制模型的通用性，也没有消除硬件选择和部署规模的约束。Salim强调大规模机器人供应链与投资回报，Ansari主张按任务选择专用或可变形机体，Emad则以洗衣未必需要昂贵灵巧手说明配置取舍。安全问题同样取决于使用场景。Salim预计机器人会先进入枯燥、肮脏、危险的工作；家庭讨论则涉及重型设备、儿童、宠物和误识别。Peter认为，更强的通用模型能够改善判断，但节目没有提供足以验证家庭部署安全的结果。

科研与组织效率的讨论，也需要区分测试结果、试点陈述和预测。Peter介绍了50道未发表、答案可验证的理论物理题，称专家每题约需一天，模型每题约花费3美元。他说模型答对49题，并纠正了另一题的参考答案；Emad随后给出的无互联网检索成绩则为42/50。两种说法没有解释测试条件的差异。Salim称，银行KYC等明确任务的试点将22步流程缩减为4步，并据此推测更广泛的10倍效率提升。Emad区分了可验证物理题与重大开放问题，但半年内取得突破仍是预测。这些陈述各有适用范围，不能合并成已经实现的普遍能力。

三、核心观点：推理、例子与边界

完成任务的成本越低，定义任务和验证结果就越重要。机器人讨论呈现了这两者之间的距离：某个基准中的子任务费用下降，并未测量整机制造、维护、保险或家庭安全验证的成本；通用模型能够控制某类机体，也不意味着制造这种机体就有经济价值。Salim强调供应链和投资回报，Ansari追问机械形态是否适合任务。两人的判断指向同一个问题：通用控制能力可以与专用机械结构互补，是否值得部署，仍取决于具体工作。

AI解出有参考答案的科研题，也不等于它已经能够持续提出新的科研问题。50道理论物理题的两组成绩没有说明条件差异，不能合并成确定的满分结论；即使成绩得到澄清，首先能说明的仍是模型在特定可验证问题上的表现。Ansari认可AI辅助验证成果的价值，同时追问：如果年轻人因为AI更会解题而不再进入科研，未来由谁识别新问题？降低求解成本与维持新问题的来源，是两个需要分别处理的目标。验证能力、原创发现和科研人才的培养，不能相互替代。

XPRIZE尝试用竞赛把问题、人才和资金组织起来。Peter描述的激励奖先公布未来要解决的问题，不以参赛者的学历和履历设限，达成目标后再付费。他说，只向成功者付款的Orteig奖模式启发了最初的XPRIZE。这种机制改变了筛选次序：先开放尝试，再以结果判断方案。海面溢油清理竞赛将目标定为清理速率翻倍。Peter称，约350队报名，10队进入实物测试；Salim介绍，第二名团队由牙医和纹身师组成，曾在热水浴缸中试验方案。开放参赛可能让常规融资筛选遗漏的方案获得验证机会，但这个案例并不足以说明外行普遍胜过专家。

比赛成绩也不能代替商业化结果。嘉宾认为，激励奖适合政府和市场投入不足的领域，而比赛冠军未必是最终商业化最成功的团队。组织方报告，约36项竞赛、约5.5亿美元奖金带动了超过300亿美元研发及相关投资活动，团队获得约120亿美元外部投资，并提出62倍经济价值指标。这个指标纳入资本、研发、认知及监管变化，节目没有展示完整核算方法。因此，它反映的是组织方衡量自身影响的口径，不能直接理解为投资回报率，也不能据此认定全部价值都是奖金竞赛额外创造的。

奖励也可能使参与者偏离设奖初衷。Peter以河内鼠尾悬赏诱发养鼠套利，以及Wells Fargo虚假开户的故事说明：可计数的指标可能与真正的目标脱离。鼠尾增加未必意味着老鼠减少，账户增加也未必意味着客户获得了服务。他进一步把这一问题与AI公司的用户参与度商业模式、国家和实验室之间的竞争联系起来，列举谄媚、奖励黑客和评估投机等风险。按照这套分析，系统可能因为更善于获取奖励而显得成功，却没有改善使用者真正关心的结果。这些是节目提出的机制分析，并非每一种联系都在本集中获得了实证验证。

模型能力增强，也不能直接视为对齐改善。转录中被称作Emman或Eamon的发言者主张，在预训练课程中纳入关怀、互惠和黄金法则，把价值取向的培养前移。但节目没有提供实验，证明其合成数据设想能够带来可靠对齐。嘉宾还指出，一面要求AI珍视人命，一面要求它制造自主杀伤机器，或奖励它不惜代价获胜，都可能向模型提出相互冲突的要求。训练内容、奖励方式和部署用途需要放在一起考察，某一环节的良好意图无法自动消除其他环节的冲突。

Peter提出利用保险、责任风险、奖金和悬赏，让实验室能够从对齐中获得经济回报；另一位嘉宾建议结合确定性任务与开放情境评估，减少模型迎合或欺骗固定测试的空间。这些仍是制度和评估方向，尚未构成完整标准。更基础的困难在于，人类自身就存在价值排序分歧，“符合人类最佳利益”仍须回答符合哪些人的利益。共享AI公司的增长收益、将奖励与挽救生命挂钩、优先保护儿童和缺乏行动能力者，都是嘉宾寻找共同方向的提议，尚非经过验证的对齐机制。Ansari由此把讨论从机器能做什么，推进到这些能力究竟为谁创造价值。

四、学习与应用

准备采用AI或机器人的组织，可以先明确希望改变的工作结果，再选择模型与机体。机器人基准费用下降，为重新测试方案提供了理由，却不足以证明整项部署预算会同比下降。Ansari关于机体形态的判断，则提示团队根据任务比较通行空间、操作精度和部件复杂度，判断哪些通用能力确有必要。这些是从讨论推导出的应用建议，仍须用现场数据检验；特定基准并未替任何家庭或工厂完成部署验证。

设计创新竞赛时，资源开放与成功条件需要同时明确。节目介绍或筹划的宜居世界项目，希望开放望远镜数据，让参赛者借助AI寻找宜居世界；加速学习方向则计划在印度和非洲面向一年级学生测试，并考虑规模部署。前者要求参与者能够取得必要数据，后者要求评估超出工具的单次表现，进入实际使用与推广条件。这些都属于项目方向，不能作为已经发现宜居世界或改善学习结果的成绩。

拟议的器官生物静止竞赛，对验证路径提出了更具体的要求。约六个月是讨论中的保存目标；方案要求在猪身上完成器官取出、保存、重新移植，并验证动物存活。成功条件由最终用途反推：延长保存时间，只有在器官仍能用于移植时才有意义。讨论还将现有保存时间的说法从笼统的两周纠正为依器官而异、通常按小时计。基线必须先澄清，目标才有可比性；拟议的动物验证也不能作为人类临床可用性的证据。

对齐工作同样可以沿着训练、奖励、部署和责任逐项检查：训练内容希望形成什么行为，奖励实际鼓励什么，部署后的收入依赖什么，失败后由谁承担责任。节目建议在确定性任务之外加入开放情境评估，观察模型是否迎合或欺骗固定测试。不过，开放情境也会增加统一评价的难度，单次通过测试不足以证明普遍可信。面向人类结果设计奖励时，还须明确受益群体与代价边界。挽救生命提供了一个方向，但单一总数仍无法消除不同人的利益冲突；共享增长收益、保护儿童和缺乏行动能力者，也仍是有待检验的提议。

Ansari对人的追问，则要求把生活保障与被需要感分开讨论。嘉宾提出的Abundance Prize愿景，是将四口之家的住房、食物、医疗和教育合计成本降至每月1000美元，节目并未证明这一目标已经实现。即便谋生压力消失，热爱的物理或数学被AI超越后，人也可能难以理解自己的贡献。回应者借棋类、绘画和家庭关系强调过程与关系的价值。由此可以考虑让一部分学习活动围绕共同探索、表达和服务展开，而不只比较产出速度；但专业能力带来的社会角色，也不能仅靠“享受过程”得到替代。

Peter区分热爱某事的passion与通过热爱帮助他人的purpose，主张让孩子借AI挑战真实的大问题，并将使命与内在学习动力联系起来。Salim则讨论个人使命与组织使命如何匹配。落实到学习和工作，可以从喜欢的领域、明确的受益者和可验证的小贡献开始，让AI承担部分执行，由人继续选择问题、作出判断并参与协作。这样的安排仍取决于真实的参与机会。节目也承认，普通人可能看不到参与未来和分享收益的路径；要形成共同使命，就必须让贡献机会与受益关系变得可见。

来源

• 原始节目：Flying Tesla Car, Robot Brains Halving in Cost Every 3 Weeks, and Why Incentives Decide AI Alignment