AI 的下一场硬仗，不在参数量，而在每一瓦电

凌晨两点，一台笔记本合上了盖子，后台却还在整理会议记录、归档照片、筛选邮件、把一天的工作串成第二天的待办。这样的场景一旦成立，AI 的问题就不再只是“它有多聪明”，而是“这份聪明要花多少电、多少带宽、多少隐私成本”。

过去两年，行业习惯把注意力放在更大的训练集、更长的上下文和更强的基准测试上。模型能力当然重要，但它只是智能扩散的前半段。后半段更难：让足够好的智能可以长时间、低成本地跑在足够多的设备上，而不是每一次请求都要绕道一座遥远的数据中心。

Avanika Narayan 与 Jon Saad-Falcon 把这个问题叫作 intelligence per watt：每消耗一瓦功率，系统究竟交付了多少有用的智能。

这不是一张芯片宣传页上的单一数字。分子是任务表现——写代码、处理文档、回答问题、执行代理工作流时能否真正把事办成；分母则是整套系统的真实功耗：模型、量化、批处理策略、推理引擎、内核、内存、硬件与部署方式。换句话说，AI 的效率不是某一颗芯片或某一个模型单独赢得的，而是一连串工程选择共同结出的果。

不是所有问题，都值得调动最强模型

今天的云端 AI 有一种隐含前提：用户一提问，就由最强的集中式模型处理。这个前提很舒服，也很昂贵。

大量日常任务并不需要前沿模型级别的推理。整理文件、搜索个人资料、初步归类、改写固定格式文本、处理重复的企业流程，往往更在乎稳定、响应快、数据不外流和边际成本接近零。对这些任务而言，把所有内容发往云端，不一定是在购买更好的结果，也可能是在用最贵的路径完成一件本不复杂的事。

本地模型的意义不在于取代云端，而在于先把问题分开。能留在设备上的，默认留在设备上；确实需要更强能力、更多外部知识或更大计算量的，再交给云端。这是一种很朴素的架构判断：默认本地，按需混合。

它改变的不只是费用表。数据不必在每一次调用中离开设备，断网时系统仍能完成一部分工作，个人和企业也不会把全部工作痕迹交给同一家服务商。真正有价值的不是“离线”这个标签，而是把选择权重新放回用户手里。

企业不该只租 token

企业采用 AI 时，最容易被忽略的资产不是 GPU，而是自己的知识。

客户沟通、运营记录、内部文档、流程例外、决策理由，这些内容拼在一起，才构成一家公司的真实能力。若所有日志、查询和工作流都直接进入外部黑盒模型，企业购买到的可能是短期效率，同时也在持续交出自己的上下文。

这不是说所有云服务都不能用。问题是，很多团队把“先全面接入、以后再迁移”当作默认路线。迁移从来不会自动发生：数据格式、权限、工具链、员工习惯和成本结构一旦缠在一起，最初看似方便的选择会慢慢变成锁定。

更现实的做法，是把工作分成两类。

一类是 explorer：新场景、不稳定任务、需要最高能力的探索，继续使用前沿模型很合理。另一类是 exploit：流程成熟、重复出现、评价标准清晰的任务。后者应该尽早测试开放权重模型、较小模型或自有推理。起步不必立刻买服务器；先替换一部分模型端点，比较质量、延迟、成本与数据边界，再决定哪些环节值得自建。

这条路没那么炫，但它让企业从“买智能”变成“建立使用智能的能力”。模型只是其中一环。应用、工具、记忆、权限、计算资源和员工流程没有对齐，再强的模型也只是一次昂贵的调用。

效率不会自己到来

“算力越来越便宜”常被当作自然规律。历史并不支持这种乐观。

计算走到今天，靠的不是某条曲线自己弯向低价，而是晶体管、编译器、体系结构、制造工艺和软件工程一次次具体的突破。AI 也一样。模型架构、训练方法、数据质量、推理内核、内存调度、设备加速器和部署策略，都可能成为下一个数量级提升的来源。

这意味着，AI 的竞争不会只剩下“谁训练得更大”。它会越来越像一个多层市场：有的系统追求最高能力，有的追求最低延迟，有的追求最强隐私，有的追求单位成本，有的需要本地与云端协同。模型、芯片和应用都不会只有一个赢家。

真正值得警惕的，是把所有未来需求都押在同一种供给方式上。若大量任务可以由更小、更便宜、更接近用户的数据和设备完成，那么围绕集中式 token 租赁建立的定价与护城河，都必须重新算账。

AI 最终不会因为参数量继续变大而自动抵达每个人手中。它要穿过电池、散热、带宽、账单和隐私这些不那么浪漫的现实。谁能把一份足够好的智能压进更少的能量与更近的设备里，谁才真正把 AI 从演示台带进了日常生活。