Modal CEO谈推理的新云时代：平台增长、算力供需与现金流

一、嘉宾背景

这集约62分钟的20VC访谈由Harry Stebbings主持，嘉宾Eric是Modal联合创始人兼CEO；所给嘉宾资料未提供姓氏。讨论围绕AI推理、GPU容量和计算平台展开。作为正在采购GPU、扩充容量的公司负责人，Eric谈到的既有实际经营问题，也有对技术与市场前景的判断。

Eric自述，约在1992年、8岁时，他开始用Mac Plus编程，16—17岁参加编程竞赛，直到36—37岁才创办Modal。他把较晚创业部分归因于信心和资金因素。此前在Spotify形成的消费产品思维，则延续到了他对Modal的理解中：开发者体验、自下而上的产品增长、公司个性和社区建设彼此相关。即使产品属于企业基础设施，开发者如何接触、理解和使用它，仍会影响增长。

他也明确表达了长期经营的意愿。Eric说，自己享受建设公司，希望经营Modal二十至五十年，并不把出售公司视为工作的最终回报。这项个人动机有助于理解他为何着眼于持续扩展平台，但无法据此判断公司未来的寿命。阅读他的市场判断时，同样需要保留他的双重身份：他既在运营这项业务，也在阐述自己看好的方向。

二、本期主要内容

Harry以一组融资与收入数字开场：Modal达到10亿美元ARR，完成7.5亿美元融资，估值157.5亿美元。这些数字来自主持人口述，材料未提供独立核验。Eric随后描述了公司资金需求的变化：此前大部分时间，Modal并不受资本约束；如今扩充GPU容量，需要投入大量资金。他称，公司按损益表口径已经盈利，现金流却显著为负。收入增长、账面盈利与可支配现金，呈现出不同的经营状况。

Modal交付算力的方式，是这场访谈的一条主线。据Eric称，公司与25家neo clouds合作，自建文件系统、容器运行时和调度器，将跨供应商资源作为容量池管理。数千名付费客户的负载各有突发性，聚合后的总需求则更平滑。客户因此可以按GPU秒付费，无需提前锁定三年固定容量。他以转录所称TypeSafe为例：对方未提前通知上线，仍自动获得大量GPU。这说明了他所强调的使用体验，但单个案例不足以证明所有情况下的容量保障能力。

客户省去的采购与预测工作，由平台承担。Eric称，GPU交付提前期约为三至四个月，Modal根据总需求外推采购量；他报告，过去十二个月的月增长约为30%—40%。公司采用较长期预订、较短期出租的方式，也会调整客户价格。容量准备因此同时涉及需求预测、采购承诺和价格变化，而Eric并不确定当前涨价会持续多久。

另一条主线是产品如何找到需求。Eric称，Modal于2021年推出serverless function，2023年受生成式AI推理带动增长；sandbox于2023年推出，到2025年夏季才显著增长。他给出的sandboxes当前年化收入运行率约为3亿美元，约占总收入三分之一。对于这些产品后来出现的关键用途，以及增长所需的有利时机，他承认团队并非全部提前预见。

开源推理则经历了从低估到加大投入的转变。Eric说，团队曾把它看作商品市场；DeepSeek出现后，相关团队在十二个月内由一两人扩至约三十人。他称Modal已成为前三大供应商之一，但材料没有提供独立排名。与此同时，公司已经推出training产品，他希望其在六至十二个月内达到1亿美元年化收入运行率。这是产品目标。对于多产品扩张，他强调必须严格排序，每次只集中推进一两项。

三、核心观点：推理、例子与边界

Eric把推理称为新的云。在他看来，单纯出售tokens很难形成切换成本，平台的价值还在于帮助开发者完成围绕模型展开的工作。后训练、强化学习、沙箱、智能体工作流，以及低延迟和批量推理，可以共同构成更完整的平台。关键在于这些能力能否在实际使用中相互衔接。访谈没有量化这种组合对客户留存、迁移成本或毛利的贡献，平台价值仍需由使用结果检验。

这也是他对专业化与平台广度之间关系的解释。Eric认为，市场扩大后，可以容纳更多满足具体需求的专业产品，而统一平台能够承载这些产品。低延迟推理、批量推理和代码执行各有要求，共享底层能力并不妨碍产品分工。Modal沙箱的增长经历则提醒人们，基础构件推出与需求成熟可能相隔较长时间。Eric承认，关键用途和有利时机并非全部提前预见，不能把后来的增长都归于最初的规划。

Harry转述了一种对开源推理的担忧：前沿模型持续降价，加上美国企业对中国模型的顾虑，可能使这一市场见顶。Eric反对其中固定市场规模的假设。前沿模型更有吸引力，并不意味着开放模型的绝对用量必然下降；他预测，两类市场都可能增长五倍、十倍或二十倍。这些倍数是预测，材料没有提供足以验证其幅度的连续用量、收入和单价数据。他的另一项判断更具体：开放模型提供了微调、参数控制，以及延迟和吞吐优化的空间，这些需求不会仅由模型价格决定。

不过，Eric并不认为每家企业都必须拥有自己的模型。底座稳定性、成本、性能和邻接服务都影响选择，控制权只是其中一项。企业需要判断，自己是否确实需要持续调整模型，以及这种控制能否带来足够价值。他提到，Modal也承载Suno、Runway等公司的自有闭源模型。对平台而言，不同模型路线都可能形成业务；对客户而言，开放或闭源的标签本身不足以决定选择。

按需算力体现了另一种平台价值。Eric所举的TypeSafe案例中，客户没有提前通知上线，仍自动取得大量GPU；但Modal采购GPU的交付提前期约为三至四个月。客户获得弹性，意味着平台必须提前预测并准备容量。数千名付费客户的突发负载汇总后，据Eric称会更平滑；这种平滑程度仍取决于客户高峰是否重叠。节目没有披露峰值相关性、闲置容量或极端负载下的表现。Eric也认为，即使AI潜在需求很大，资本、数据中心建设速度，以及消耗GPU的客户尚未实现收入，都可能限制增长。需求意愿最终还要转化为持续支付计算账单的能力。

毛利讨论同样涉及整条供应链。Eric从应用、模型、基础设施、云一直谈到芯片：一笔客户支出需要在多层供应商之间分配，因此传统软件约90%的毛利很难重现。他提出，Modal长期毛利可能达到40%、50%或60%，并未将其描述为当前已经实现的水平。供应链结构解释了利润为何受到约束，却不能直接推算一家公司的最终毛利。结合他所说的损益表口径盈利、现金流显著为负，可以看到，平台的软件能力与扩充GPU容量所需的资金投入同时存在。

Eric对英伟达优势的解释，也落在软件生态上。他更看重优化内核、PyTorch和开放推理引擎对英伟达的优先支持，而非CUDA接口本身。他承认，过去约十五年里，自己反复高估了替代加速器取得突破的速度。专用芯片与英伟达在他看来仍可能共同增长，但访谈没有提供性能基准来确定各自的空间。对于既是合作伙伴、也是竞争者的neo clouds，他赞赏其以长期客户合同支持融资、购买芯片和偿债的能力，同时强调，复制推理平台还需要解决复杂的软件调度问题。取得芯片与把资源组织成可用的平台，需要不同的能力。

后训练的技术边界，则取决于反馈能否被验证。代码可以执行，数学可以借助Lean，这些反馈有助于解释相关训练为何能够推进。Eric称，实验室正在使用Modal沙箱开展此类训练；对于反馈周期较长的任务，强化学习能否同样有效，他没有把握，并明确承认自己对边界的判断可能错误。他对未来十至二十年软件工程职业的乐观，也是一项基于长期编程经历的判断：效率提高可能扩大软件需求，而理解人的需求、流程与工作流仍是工程师的核心工作。这并不构成职业安全保证。

模型路由也存在当下业务与长期结构之间的张力。Eric认为，它目前可以独立成业，长期则可能整合进包含评估、微调和性能控制的平台。他同时披露，自己个人投资了OpenRouter，并看好其品牌、收入和继续独立发展的潜力。对整合趋势的判断，并未排除独立公司的发展空间；他的投资关系也是理解这番评价时需要保留的背景。

四、学习与应用

采购推理服务时，可以把Eric的平台判断放回具体工作流检验。围绕实际任务，比较交互延迟、批量吞吐、模型可修改性、底座稳定性和完整成本，再判断沙箱、训练与评估是否确实需要共享平台。对于迁移容易的任务，单价更容易成为决定因素；持续微调与执行环境联系紧密时，平台组合则可能减少集成工作。采购结论应建立在可比较的评估上，平台提供更多能力，并不意味着每个团队都需要全部采用。

按需GPU的弹性也需要落实为可验证的条件。团队可以用自身常见的突发负载测试扩容，确认启动等待、容量限制、价格变化和高峰支持方式。TypeSafe的经历可以帮助明确问题，却不足以保证另一次上线会得到相同结果。平台经营者需要同时审视现金收支、采购提前期、客户使用期限与需求预测，并检查增速放缓或多个客户同时达到高峰时的承受能力。这些检查来自采购与出租期限的差异，访谈并未证明某套管理方法已经消除了相关风险。

开发智能体时，代码执行和Lean所体现的可验证反馈提供了一个起点：先明确什么算完成、如何验证，再决定是否扩大训练和自动化范围。Eric对长反馈周期任务仍有疑虑，因此，短任务上的进步不能直接推演为长期项目可以无人负责。通过测试也未必等于满足全部业务需求，需求澄清、流程设计和长周期结果追踪仍需要工程师承担。Eric估计，Modal约150名工程师每月在编程智能体上的支出约为50万美元。Harry提出增加十倍的建议，但这并非公司已承诺的计划，也不能直接用作其他团队的预算标准。预算仍需与可接受的质量、审查成本和实际产出相联系。

Modal的产品经历，对基础设施创业者提出了两项同时存在的要求：对通用构件保留耐心，也要随新需求调整投入。sandbox在2023年推出、到2025年夏季显著增长，并不能证明所有迟迟未增长的产品都值得持续等待；开源推理团队扩编，也不能证明所有相邻市场都应立即进入。小范围验证、明确继续或停止投入的条件，以及每次集中一两项，有助于把产品判断落实到资源分配。Eric对Turbo Puffer的设想也属于邻接机会判断：他偏爱这家天使投资组合中的公司，并设想向量数据库可以向数据库、数据仓库和其他查询系统扩张。这并非已经实施或验证的路线。

融资方式则要与业务的现金流和长期利润相匹配。Eric认为，代码环境和数据销售当前可以产生良好现金流，但对其长期利润与风险投资适配度仍有疑问；部署、实施、评估和监控等服务，可能支持更长期的业务。对创业者而言，今天能否赚钱、客户为何继续购买、扩张需要多少资本，是需要分别回答的问题。他没有指出某个具体AI品类过热，却警惕依赖持续股权注资的企业。每轮融资都按最后一轮规划，意味着尽早建立真实的商业化和收入路径，并检查容量与人员承诺能否承受融资收缩。

员工薪酬与股权安排也涉及短期兑现和长期激励的平衡。Eric支持有额度约束的员工二级交易，让股权具有可兑现价值，同时保留长期激励；他称Modal希望支付市场第95百分位薪酬。其他公司可以据此审视自身流动性条件和限制是否清楚，却不能将其变成对未来交易的承诺，或直接照搬薪酬目标。这些应用最终都需要回到各自的经营条件：公司自述提供线索，个人预测提出方向，是否扩大投入仍应由实际数据决定。

来源

• 原始节目：Modal CEO: Has Open-Source LLM Inference Peaked? | What Happens to the Cost of Compute