Ilya Sutskever谈GPT如何“理解”世界：预测、压缩、幻觉与可控性

一、嘉宾背景

这期《Eye on AI》由Craig S. Smith主持，受访者是Ilya Sutskever。节目主题不是泛泛介绍ChatGPT，而是借Sutskever的研究经历，分析AI是否以及如何形成对世界的理解：从早期神经网络、ImageNet突破、OpenAI的GPT路线，到幻觉、RLHF、多模态世界模型和AI治理的未来用途。主持人在开场特别说明，访谈录制时Sutskever仍是OpenAI首席科学家；后来的OpenAI董事会风波、他在2024年离开OpenAI，以及创办Safe Superintelligence Inc.，都属于节目后设背景，而不是访谈当时的技术回答。

这种背景决定了这期节目的价值：发言者不是旁观评论员，而是直接参与了深度学习和大模型路线形成的人。Sutskever在节目中回顾，自己出生于俄罗斯，在以色列长大，少年时期移民加拿大，17岁进入多伦多大学后很快与Jeff Hinton合作。他把自己进入AI的动机追溯到对意识、智能和机器学习可能性的追问。2003年前后，机器学习并不像今天这样被视为默认可行；他回忆说，当时人们理所当然地认为计算机不能学习，AI代表性成果仍是Deep Blue式的象棋系统，靠搜索和局面评价取胜，却没有展现可迁移到现实世界的学习能力。

节目也补充了Sutskever后来身份的变化：Safe Superintelligence Inc.被描述为一个围绕高级AI安全组织原则建立的新实验室，强调“一个使命、没有产品”。但文章分析必须区分两层：访谈主体是Sutskever对GPT、理解、幻觉和世界模型的解释；安全公司、估值和后续行业背景只是主持人开场提供的定位线索，不能倒推为他在访谈中已经对所有未来技术和制度问题给出确定答案。

二、本期主要内容

整期访谈的主线，是Sutskever如何把深度学习的历史经验连接到GPT的世界理解问题。前半段从ImageNet讲起：他认为，如果一个足够大、足够深的神经网络，在足够大的数据集上学习一个人类能完成的复杂任务，例如视觉识别，那么它就应当能够成功。这个判断不是神秘的仿脑口号，而是来自可训练性的推理：人脑本身由缓慢的神经元组成，却能快速解决视觉任务；既然某类神经网络可以做到，人工神经网络只要具备合适的结构、训练方法和数据，也应当能够逼近这种能力。Sutskever把AlexNet式突破归结为多个条件的汇合：Hinton实验室已有训练深度网络的技术积累，Alex Krizhevsky拥有快速卷积核，ImageNet提供了足够大的监督数据。

随后节目转向GPT路线。Sutskever说，OpenAI早期就在探索“预测下一个东西是否足够”：下一个词、下一个像素，甚至更抽象的下一个目标。他把预测理解为压缩；在GPT之前，无监督学习曾被视为机器学习的圣杯，而他的判断是，如果模型能足够好地预测下一个词，就会学到数据集中的一切。早期循环神经网络不足以承担这个任务，尤其不擅长处理长期依赖；Transformer论文出现后，他和团队很快认为它解决了这个关键限制，于是切换路线，继续扩大模型，最终走向GPT-3和今天的大模型格局。

访谈中最集中的争论来自主持人的质疑：大语言模型是否只是满足提示词的统计一致性，并没有真正连接现实？主持人以ChatGPT编造自己获奖经历为例，指出模型可以写得流畅却与事实脱节。Sutskever的回答不是否认幻觉，而是重新界定“统计规律”的含义。他主张，若要很好地预测和压缩数据，模型就必须越来越理解产生数据的真实过程。由此，节目后半段展开到预训练与RLHF、多模态、JEPA式世界模型、人工反馈效率、少样本学习、算力成本和AI参与治理等问题。

三、核心观点：推理、例子与边界

Sutskever的第一个核心观点，是“预测即压缩”不能被轻率看作表面统计技巧。他承认神经网络在某种层面是统计模型，但他认为，统计规律本身比直觉中更深。一个模型如果只是记忆词频或拼接常见句式，就无法稳定预测复杂文本；要把数据压缩得好，就必须形成对数据生成过程的表征。文本来自人类在具体世界中的行动、关系、概念、情境和过程；模型被迫预测文本，也就间接学习这些产生文本的过程。因此，强生成模型可能形成Sutskever所说的、达到惊人程度的世界理解。

这个观点有一个重要限制：它不是说语言模型直接拥有全景式现实。Sutskever明确把这种理解限定为“世界通过文本空间的投影”。模型学到的是人类在互联网上表达出来的世界，而不是未经媒介过滤的世界本身。这个限制解释了为什么同一套系统可以在很多概念关系上表现很强，却仍会在事实输出上出错。主持人提到ChatGPT编造他获得过的奖项，Sutskever没有否认幻觉；他承认即使ChatGPT也会不时编造内容，并因此限制模型用途。换言之，访谈没有把“理解”包装成万能能力，而是在讨论一种经由压缩形成、受训练数据和输出机制约束的理解。

他对幻觉的解释同样关键。Sutskever区分预训练和输出训练：预训练让模型学习世界、思想、概念、人物和过程的表示；RLHF等后续训练则处理模型怎样回答，哪些输出不合适，哪些输出没有意义，哪些行为应该被抑制。因此，在他的框架中，幻觉并不直接证明模型没有世界知识，而是说明模型的输出行为还没有被足够可靠地校准。他希望通过改进人类反馈或类似训练步骤，让模型学会“幻觉不可接受”。但这不是已经完成的结论，而是一个仍要接受验证的技术方向。

多模态争论体现了同样的非二分立场。面对Yann LeCun式的非语言世界模型主张，Sutskever承认视觉、图像、视频等模态很有价值，因为它们能让系统更好理解世界、人的处境和任务需求；OpenAI也做过CLIP和DALL-E这样的多模态工作。但他反对把问题表述为“没有视觉就不能理解世界”。他举颜色嵌入为例：颜色看上去似乎无法只从文本学到，但网络可以从文本中形成相当准确的颜色相似关系，例如紫色比红色更接近蓝色。限制在于，用文本学习这类结构更慢，视觉数据会让差异更直接、更快地显现。

在JEPA和高维预测问题上，Sutskever也采取修正立场。他不同意现有自回归Transformer不能处理高维不确定分布的强说法：给定一本书的一页来预测下一页，本身就是一个有大量可能结果的高维任务；图像也是如此。他提到OpenAI曾把Transformer用于像素的iGPT，以及DALL-E 1等图像生成做法，以说明序列模型已经能处理复杂图像生成和无监督表示学习。同时，他承认扩散模型等并行生成方法可能在实践效率上带来巨大收益，甚至可能是很大的差距；只是他认为这种差异在概念上没有那么根本。

对规模的看法，是这期节目中最容易被误读的一点。Sutskever并不是简单复述“只要扩大规模就够了”。他认为，对“苦涩教训”的流行理解夸大了规模本身的意义：关键不是随便scale，而是scale某个确实能从规模中获益的具体对象。深度学习的突破，在于第一次提供了一个值得投入数据和计算、并能持续产生回报的结构。未来进展也可能来自一个看似很小的结构变化，使新的对象更值得扩展；事后看也许简单，但它会改变“什么东西值得scale”。

当Sutskever把技术判断延伸到复杂社会问题时，他保持了谨慎。他设想，未来普遍存在的神经网络可能支持某种高带宽民主，让公民输入更多关于偏好和系统行为的信息，再聚合成规范。但他同时承认，这会引出许多问题。面对“AI是否能理解所有变量”的追问，他说复杂社会甚至中型公司都已经超出任何单个人完整理解的范围；在某种意义上，完全理解一切可能根本不可能。这个限制很重要：他的主张不是AI会消除复杂性，而是如果系统构建得当，AI可以在几乎任何复杂情境中提供巨大帮助。

四、学习与应用

从这期访谈得到的第一个应用，是重新评估“语言模型只是统计”的说法。按Sutskever的框架，真正要问的不是模型有没有统计性，而是它为了完成预测和压缩，究竟学到了哪些产生数据的过程。对产品、研究或内容团队来说，评估模型能力时不能只看它是否会流畅续写，也要设计任务测试它能否保持因果关系、人物状态、约束条件和上下文依赖。适合使用大模型的场景，往往是文本投影中包含大量结构的场景；不适合过度信任的场景，则是文本证据稀薄、事实边界严格、错误成本高而验证机制不足的场景。

第二个应用，是把“知识获取”和“输出行为”分开管理。Sutskever对预训练与RLHF的区分表明，一个模型可能掌握很多相关表示，却仍以不可靠的方式表达它们。因此，在企业或研究流程里，减少幻觉不能只靠更大的模型或更多知识注入，还要靠输出层面的约束：明确拒答规则、引用要求、事实核查、偏好反馈、人工复核和错误样本回流。代价是流程会变慢，标注和监督会增加成本；收益是模型更可能把已有能力转化为可用结果。边界同样清楚：访谈只是表达Sutskever对反馈路线的希望，并没有证明幻觉已经被完全解决。

第三个应用，是理性看待多模态。节目给出的启发不是“文本足够，所以图像没用”，也不是“没有视觉，所以语言模型全无世界知识”。更稳妥的实践判断是：当任务涉及空间布局、颜色、图表、界面、视频动作、医学影像或物理过程时，多模态会显著提高学习效率和任务理解；当任务主要围绕人类表达、制度文本、历史论证、代码和概念关系时，文本模型已经可能学到大量结构。颜色嵌入的例子说明文本能传达关系，但视觉能减少绕路学习。

第四个应用，是避免把规模当成口号。Sutskever强调要scale something specific，这对AI项目决策很实际：投入算力、数据和工程资源前，先确认被扩展的对象是否能从规模中持续受益。扩大一个弱指标、混乱数据集或没有反馈闭环的系统，可能只是扩大成本；扩大一个有明确目标、可训练结构、可评估输出和稳定改进路径的系统，才更接近深度学习历史中的成功模式。算力成本也应按价值判断，而不是只按绝对数字判断：如果产出无法覆盖成本，就不值得；如果能解决重要问题，高成本可能有理由。

第五个应用，是设计人机协同反馈。Sutskever说，教师并非孤立地逐条纠错，而是使用AI助手和工具完成大量工作，人类负责监督与最终校正。这提示组织可以把反馈流程做成分层系统：模型先生成候选，自动检查明显错误，工具聚合差异，人类审阅高风险部分并给出可复用规则。它的边界是，越追求高可靠性，越不能完全去掉人类监督；但越善用AI辅助，人类监督就越能集中在判断、责任和异常处理上。

最后，治理讨论应该被当作设想，而不是现成方案。高带宽民主的想法可以启发公共机构收集更细粒度的偏好、模拟政策影响、整理利益冲突，但不能替代合法性、程序透明、代表性和申诉机制。Sutskever承认复杂社会无法被任何单个个体完全理解，这也提醒我们：AI在复杂情境中的合理位置，是帮助提出选项、暴露变量、辅助分析和汇总偏好，而不是宣称自己已经掌握全部变量并给出不可质疑的最优答案。

来源

• 原始节目：Chat GPT's Creator Explains The Shocking Truth About How AI Understands the World |Ilya Sutskever