开放权重之后，模型怎样才算可用？Matthew Berman 的 AI 发布观察

一、主讲人与议题背景

节目元数据将 Matthew Berman 标为 Matthew Berman / Forward Future 的主持人。视频上传于2026年11月5日，时长1193秒，即十九分五十三秒。现有材料未显示另有受访嘉宾，转录内容是 Berman 对模型发布的介绍、展示与评论。他引用的榜单、演示结果与个人判断，需要在阅读时保留各自的归属。

Berman 将 Moonshot 的 Kimi K3.1 Pro 介绍为权重可下载、能力距离最强闭源模型约差“半步”的模型。“半步”是主持人的整体判断，具体表现仍要结合各项任务的成绩来看。权重可获得之后，模型能否用于电脑操作、图像编辑、科学计算或设备端运行，还各有不同的条件与验证要求。

二、本期主要内容

Kimi 的运行规模，首先显出了权重可下载与实际可部署之间的距离。Berman 称其拥有三万亿参数，权重分为96份，每份约17GB，并估计运行大概至少需要1.2TB显存。社区量化是他期待后续出现的进展，节目并未展示已经验证的量化部署方案。

Kimi 的能力表现也随任务而变化。节目列出的成绩包括 Agents Last Exam 第一、OS World 第三、GDPVal Elo 第二；在 Terminal Bench 上低于 Opus 5.5，在 BenchCAD 上则落后于 Opus 5.5 和 Astra。这些结果为 Berman 对其广泛能力的判断提供了依据，也保留了不同任务之间的差别。终端操作、知识工作与 CAD 的表现，不能合并成一个适用于所有任务的领先结论。

专用模型构成了节目的另一条主线。Berman 将 Hydrogen 1.0 介绍为 MIT 对 GLM 5.3 进行后训练得到的科学发现模型，引用其 Frontier Science Research 成绩38.33%，以及每题0.25美元的成本；对照 Astra 的成本为每题0.88美元。他还表示，模型权重和 NeuroSpark API 均已开放使用。这些成绩与成本对应节目引用的测试口径，不能直接视为真实研究项目的成功率与预算。

其他模型则面向更具体的工作环节。Perplexity Embed v2 Context 是开放权重的视觉语言嵌入模型系列，提供90亿和6亿参数版本，用于文本、图像以及 PDF 等视觉文档的检索。一个四十亿参数的 Quen 3.5 变体能够生成独立的 Three.js HTML/JavaScript 场景，并支持 GLB 导出；节目展示了丛林和雪地平台场景，Berman 建议独立游戏开发者关注这一用途。ServiceNow 的 Apryl Voice 27B 则通过混合专家骨干整合语音、文字和图像输入，支持行动与语音合成，但节目没有展开具体的任务完成案例。这几项发布分别覆盖检索、场景生成和多模态交互，展示了模型在不同工作环节中的分工。

三、核心观点：推理、例子与边界

权重开放到什么程度，与模型能否在实际设备上完成任务，需要分开衡量。节目中转写为 NorthKua 或 NorthQa 的电脑操作模型系列，提供了一个具体参照。按 Berman 的介绍，Pro 有3970亿总参数、170亿激活参数，Mini 和 Nano 分别为350亿与90亿参数；三者的 OS World Verified 成绩分别为88、85与78.9。较小版本仍取得了相当成绩，说明部署规模值得纳入比较。但激活参数只描述一次计算中参与工作的部分，170亿不能替代完整权重规模。至于 Nano 可能在手机上运行，仍是 Berman 的推测，节目没有展示手机实测。

电脑操作还依赖执行框架。NorthQa 配套的开源框架让桌面代理反复截图、观察、思考并执行动作，再通过下一张截图确认界面状态。这个循环使模型的判断与动作后的反馈相连：回答是否合理只是其中一环，任务能否继续推进，还取决于代理能否识别界面变化。节目同时介绍模型与执行框架，因此评估对象也应包括两者组成的运行系统。榜单成绩本身不足以保证代理在任何界面下都能可靠操作。

Pruna AI 的 Ph3 Image 则把效率变化落在了生成过程上。Berman 将其介绍为基于 MiniMax H3 的图像生成与编辑衍生模型，引用的数字是生成步骤从50步减至8步，四百万像素图像的生成时间从12.4秒降至2.6秒。他对渔夫、动漫机器人园丁和太空场景等示例评价积极，尤其满意手写食谱中看似咖啡渍的痕迹，以及不同书写材料留下的细节。这些画面展示了减少步骤后仍能保留的视觉效果，但证据范围限于所展示的样本与主持人的观感，不能据此判断所有风格、复杂文字或编辑任务都同样稳定。

模型体积的比较则需要保留精度条件。节目既引用了 Ph3 Image“缩小七倍”的说法，也列出 MiniMax H3 为143GB、Ph3 Image 在 BF16 下为55GB、在 INT8 下为30GB。这些容量涉及不同精度配置，不能直接归为同一个压缩比例。Sarvam Prism 的效率思路又有所不同：它改变了输出形式，接收上下文、问题和固定答案选项，一次前向传播便返回各选项的概率，不生成自由文本。它是否适用，首先取决于任务的答案范围能否预先界定。

科学演示中，输出是否完整与结果是否可信也需要分别判断。Hydrogen 为聚乙烯熔体模拟生成代码，展示可旋转的三维分子可视化，并给出密度、径向分布函数（RDF）、回转半径和端到端距离。演示覆盖了代码、可视化与分析指标，但没有提供独立的科学有效性评估。分子画面和指标齐全，仍不能代替对模拟假设与计算结果的检查。

Clover 的速度演示也有明确的证据边界。Berman 将其介绍为350亿总参数、30亿激活参数的扩散文本模型。在一次驾车时间查询中，它用28步、169秒完成任务；对照模型则在578秒后达到30步上限，仍未完成。这次运行显示了两者在完成状态和耗时上的差异，但不足以单独证明扩散架构具有普遍的速度优势。成功与失败轨迹的耗时，也不能直接换算成完成相同工作量时的固定加速倍数。

四、学习与应用

选择模型时，可以先明确需要交付什么，再检查模型的接口与部署条件是否匹配。基于 Sarvam 105B 的 Prism 接收上下文、问题和固定答案选项，通过一次前向传播返回选项概率，因此首先需要确认任务的答案集合能否清楚界定。选项设计应能容纳无法判定的情况，避免把信息不足的问题强行归入已有类别；输出概率是否可靠，也仍需用实际样本检查。部署方面，节目提及推荐使用 B200 或 H200，以及权重需要106GB磁盘空间。磁盘占用不能替代运行内存评估，消费级硬件能否使用，在节目中也只是试探性的判断。

媒体生成的评估则需要分别核对速度、规格与价格。Berman 将 Pika H3 Flex 介绍为基于 MiniMax H3 的模型，引用其在 Design Arena 文本生成视频榜单中位列开放权重模型第一的成绩，并称其支持可导出的独立音轨、最高4K输出，最快七秒生成十五秒片段，价格每秒一美分起。这些描述不一定对应同一组生成条件，不能把最快时延、最高分辨率与最低价格直接组合，用来推算正式制作预算。

Pika 演示中的编辑方式，更适合转化为具体的试用检查：多张图片与 thunderstorm.wav 一起作为输入，再通过替换单个视觉素材继续编辑。复现时可以保留素材与提示，逐次改变一个输入，检查主体、镜头与声音是否满足要求，并确认导出的音轨能否进入后续剪辑。Berman 表示自己在本地使用过该模型，但节目没有提供足够的硬件条件，仍需另行检查部署要求。评估也应记录修改次数与最终可用结果，才能看出生成速度对完整制作流程的实际影响。

设备端模型同样需要区分权重体积与完整运行条件。Liquid AI 的 LFM3 1.7B 面向设备端部署，约1GB的体积对应四比特精度；Berman 还介绍了256K token 上下文窗口、单 GPU 微调，以及视频、文字和空间能力。试用时应结合实际设备与输入长度，观察内存占用、时延和输出质量。较小的权重体积不足以说明长上下文任务的运行负担，视频、文字与空间能力也需要分别验证。

长文档解析需要检查输出准确性。ByteDance Research 的 Unlimited OCR2 被介绍为图像文档解析模型，Berman 引用了五千页文档测试，并给出积极的个人评价，但没有提供数值错误率。用于自己的扫描材料时，仍应抽查正文、表格与跨页内容的解析结果，并记录资源消耗。五千页测试可以说明节目所述的处理规模，却不能保证每页内容都正确。

GPT 6.1 Terra 是 Berman 在这期节目中明确指出的闭源模型例外。他引用的说法包括：标准 API 价格较前版降低50%，以 GPT six astro 十分之一的每 token 价格提供相近性能，平均完成速度快三倍以上。这些比较仍需结合任务与计价条件理解。实际选型可以用同一批任务核算完成成本、返工次数和可接受质量；节目中对视频编辑的好评来自 Berman 的队友，应保留这一归属，作为进一步测试的线索。发布信息足以帮助建立候选清单，是否采用则需要由具体任务的验收结果决定。

来源

• 原始节目：Kimi K3.1 weights OUT, open source computer use, SOTA image model, science model, Pika H3: AI NEWS