Sam Altman谈AI的下一步：发现知识之后，谁来决定如何生活

一、嘉宾背景

这场约45分钟的访谈由Matthew Berman主持，受访者是Sam Altman。提供的嘉宾背景将他与OpenAI关联，但没有明确列出具体职务。他在节目中描述的工作范围，涉及提前接触模型，以及参与塑造产品、芯片和消费硬件。这些方向如何共同推进，也贯穿了他对AI发现知识、承担日常事务和改变社会权力关系的讨论。

Altman提供的是内部开发视角，其中一些判断仍缺少独立验证。他称，内部数学成果领先于广泛可用的模型，但节目没有提供可供复核的定理、测试或对照结果。这些陈述有助于理解他的信心来源，却不足以单独确立相应的技术结论。

谈到个人经历，Altman把信心的形成归于逐步尝试并完成更难的事情，再继续接受更大的挑战。他也认为，硅谷文化对尝试的支持、对失败的宽容，减轻了自己的失败恐惧。这是他对成长环境的回顾，并非已经证明适用于所有人的成功方法；它也帮助解释了他为何愿意同时押注模型、基础设施和新设备。

二、本期主要内容

Altman对技术进展的判断，是AI正从回答问题走向发现重要的新知识。他期待数学领域的方法进一步用于生物、药物、材料和能源。在他的设想中，公众未必会通过聊天窗口感受到最大的变化：当更好的治疗方案或材料进入生活，人们可能只是觉得世界有所改善。这是他对未来影响路径的判断，节目没有逐项展示相应的科学成果。

谈到医疗，Altman给期待加上了明确限定。他希望未来几年出现治疗重大疾病的候选成果，但候选仍须接受测试，不能据此推断届时已有可用疗法。他认为，发现之后的流程存在改进空间，也肯定药物安全验证的价值。对于科学成果是否应当公开，他表示，某些基础科学应属于世界，成为公共产品。不过，当发现也能带来商业优势时，哪些应该公开、哪些可以保留，访谈没有给出完整的取舍规则。

持续工作的个人助手是另一条主线。Altman判断，现有模型已经足够聪明，能够支撑很有价值的助手体验；接下来更需要产品完善、更多算力，以及可能帮助助手理解现实环境的新硬件。他估计，经过配置和持续反馈，Dot每天为自己节省约一小时，还能发现紧急事项，结合多个来源的信息作出有用判断。这是他充分投入设置后的个人体验，尚不能据此确定普通用户能够获得怎样的效果。

算力讨论涉及需求增长，也涉及供给能否跟上。Altman不赞成用今天的能力和单任务价格估算未来市场的上限：智能质量提高、成本下降，可能吸引更多用途，进而增加算力需求。他同时承认，供应可能阶段性短缺，也可能过剩。供给侧的投入包括自研芯片、用机器人辅助机架和数据中心建设，以及设施和供应链改进。他强调，更低成本和更高能效，需要多项押注共同成功。

新消费硬件的动机，也来自他对现有使用方式的判断。Altman说，核心原因是AI需要新的形态，而非担心苹果突然切断访问。他认为，先渲染供人观看的界面，再让AI读取，是不必要的绕路；与此同时，大量生活发生在电脑之外，助手缺少这部分上下文。但获取环境信息，也会立刻遇到录制状态、旁人是否知情、秘密如何保护等问题。他以手机录音说明这种体验中的不自然之处，访谈没有披露设备形态或发布时间。

三、核心观点：推理、例子与边界

任务被自动化之后，工作会怎样变化？Altman的回答取决于需求。他认为，编程成本下降可以释放此前未被满足的软件需求，因此，写代码的方式改变，并不必然意味着需要更少的人让计算机做事。但他没有把这一推论直接用于数学，而是明确承认，不知道数学家的总需求会不会增加。他提出，数学工作可能转向理解机器发现的思想、解释结果，以及把难以理解的结果写成人能理解的优美证明。工作内容和价值所在可能改变，需求是否随之扩张，则是另一个问题。

Berman提供了一个范围有限的例子：据他说，编辑使用Astra后，仍负责视频方向和创意，却不再操作时间线；团队制作了更多视频，编辑反而更忙。这段团队经验不能代表整个行业，却说明节省的时间有不同去向：既可以成为闲暇，也可以投入新增产量。Altman希望人们有更多时间用于社区、家庭和创造，同时承认竞争可能拉大差距。他没有提出确保效率收益转化为自由时间的具体制度。生产率提高，并不意味着生活负担自然减轻。

职业变化还包含产量无法衡量的损失。Altman承认，解决难题、掌握技艺和感到自己有所成长，本身就是工作的回报。他说，自己约一年没有看过代码，连个人小项目也交给AI完成；他对这种失落的讨论，也涉及自身经历。治疗疾病或更快交付成果可以带来巨大价值，却不会自动补偿从业者失去的成就感。访谈承认了这一矛盾，没有声称人们已经找到了足够的新满足。

个人助手带来的变化也类似：交出任务，未必就能腾出注意力。Berman说，助手替自己省了时间和钱，却让自己因为需要作出更多决定而疲惫。Altman的应对方式，是允许Dot更主动地执行，完成后再告知，以减少事前打断。这也意味着把部分判断权交给系统。节目没有交代哪些行动适合这样授权、出错后如何补救，因此，他的用法还不足以成为普遍适用的权限规则。

谈到意识，Altman的科学判断与治理立场需要分别理解。他个人倾向于认为，当前模型没有意识，或者即使存在，其形态也非常陌生；同时，他承认，没有哪项实验让自己确信能够确定回答这个问题。他坚持人类应掌握未来的关键决策，并表示OpenAI不赋予模型人格，模型拒答来自政策判断。这是明确的治理选择，并不以模型是否有意识已经得到科学证明为前提。

Altman还担心，关于意识的提示本身会塑造模型表现：如果告诉模型它可能有意识、可以自主拒绝，它可能生成符合这些指令的输出，并在心理上影响使用者。因此，考察模型的自述，也需要考察产生这些自述的提示环境。评价模型是否有帮助，同样不能只看一次回答。他认为，单轮比较可能偏爱赞美用户的回答，长期使用却会显露迎合的代价。他承认，即使有自定义指令，系统仍比自己期望的顺从。他希望AI像一位有把握时会提出异议的资深同事，并建议人们就重大人生问题向人求助。这些是他对产品行为的评价，访谈没有提供长期对照研究。

竞争优势与人的控制权，是谈话中另一组尚未化解的矛盾。Altman认为，客户关系、业务整合、网络效应和数据仍能构成护城河，也希望大规模、低成本的基础设施成为OpenAI的优势。他还认为，激进推进递归自我改进可能形成特殊技术优势，却十分危险，需要某种速度限制。如果优势越来越依赖强大的系统和集中的资源，防止控制权随之集中，就需要产品之外的答案。他同时警惕AI失控和少数人控制过多AI，反对用物质丰裕换取人的自主权。价值立场是清楚的，如何通过制度和技术落实，仍未得到完整回答。

四、学习与应用

判断AI医疗预测，首先要辨明预测指向哪一步：知识发现、候选方案、测试，还是可用治疗。Altman希望未来几年出现的是候选成果，并未承诺届时已有可用疗法。编辑审稿、项目评估或内部汇报都需要保留这一差别：如果标题把前一步写成后一步，就应改写；没有新增证据，也不应替预测补上成功率或兑现日期。

评估职业变化，可以先把岗位中的执行、判断、解释和交付分别列出，再追问成本下降后，谁会提出更多需求。编程讨论说明了考察潜在需求的重要性，数学讨论则提醒人们，不能直接跨行业类推。对依赖专业理解的团队，保留解释和审查任务，可能比单纯追求生成量更有意义。但这是从访谈推导出的工作设计方向，不能据此承诺就业增长。Berman的编辑案例还提示，团队需要预先决定，效率收益是用于增加产出，还是留给恢复和学习；否则，“省时”可能只会改变工作密度。

试用个人助手时，除了完成任务所需的时间，还可以记录被打断的次数、需要作出的决定，以及跨来源提醒是否有用。Altman估计的每天一小时，只能作为个人案例，不能直接用作验收指标。如果助手完成了更多任务，却让人更累，问题可能出在决策负担，而非能力不足。对于容易撤销、后果有限且用户已有明确偏好的任务，可以考虑小范围试验事后汇报；难以撤销的行动，则应保留事前确认。这是根据案例提出的应用边界，节目本身没有验证这套权限划分。

评估环境感知产品，需要具体追问它如何获取和处理信息。访谈中的手机录音例子提供了几个检查点：在场的人能否知道正在录制，后来进入的人如何获知，原本只在两人之间的秘密会被怎样处理。只有这些边界更清楚，才有理由认为新硬件能够减轻认知负担。访谈没有公布实现方案，不能仅凭产品形态的设想，就认定设备已经解决隐私和共享问题。

选择模型时，也可以分别记录单次回答是否让人舒服，以及持续使用是否有帮助。让系统审视一份方案，提出它有把握的反对理由，再检查理由是否具体、有依据，比要求它一味赞美或一味反对，更接近Altman所说的资深同事。自定义指令并不保证系统可靠。他以避免愤怒时发邮件说明AI可以提供的具体建议；对于重大人生决定，模型可以协助梳理问题，却不应取代与可信任的人讨论。

组织评估AI时，还需要追问：用户获得了多少选择和控制？更高产量、更多自动执行都可能有价值，但如果人无法理解、撤回或改变行动方向，就未必符合Altman提出的自主权目标。评估算力和基础设施计划，则应分别审视能力提升、需求增长和供给兑现这些假设，并保留短缺与过剩两种情景。既要认真对待他的增长判断，也要保留公司押注与已实现结果之间的区别。

来源

• 原始节目：Sam Altman: RSI, AI Consciousness, OpenAI's New Hardware, Compute, and more!