第236章 显存边界

光标在终端里跳动，像秒针。林尘盯着屏幕上的依赖树，手指在键盘上敲下pip freeze > requirements.txt。断网环境意味着所有轮子都得自己造。他不能指望pip install，必须把PyTorch、CUDA工具链、甚至底层的C++编译库全部打包成离线.whl文件。

苏曼在隔壁工位跑量化脚本。键盘声很密，偶尔停顿，接着是鼠标滚轮的滑动声。两人没说话。办公室里的空气被服务器风扇和除湿机的低频嗡鸣填满。窗外的云层重新聚拢，天色暗得比平时早。

林尘把左脚的止痛贴撕下来，边缘已经卷曲，渗出一点胶印。他换了一片新的。冰凉的薄荷味渗进皮肤，暂时压住了脚踝深处那种钝痛。他活动了一下脚趾，确认还能弯曲，才把重心重新放回椅子上。椅背的弹簧发出轻微的吱呀声。他习惯了这种声音，像老屋的木梁，提醒他还醒着。

requirements.txt生成完毕。他开始写离线加载脚本。医院的测试机大概率是Windows Server 2016，显卡驱动停留在CUDA 10.2。这意味着他不能直接用最新的PyTorch 2.0，必须回退到1.13，手动编译部分算子。他打开错题本，翻到空白页，写下：环境隔离：不依赖系统PATH，全量相对路径。依赖冲突：用venv隔离，打包时剔除冗余C++运行时。

苏曼推门进来，手里拿着打印出来的量化日志。“INT8压到3.8G了。但精度掉了1.7个点。临床对齐的召回率可能卡在85%以下。”她把日志放在林尘桌上，指尖点了点最后一行。“主任要的是疗效，不是跑通。掉点太多，院务会直接打回。”

林尘扫了一眼数据。1.7个点，在实验室里可以忽略，但在临床采购里就是生死线。他沉默了几秒，打开终端，调出模型结构图。“把最后两层的注意力头剪掉。用动态量化代替静态量化，推理时再校准权重。显存会多占200M，但精度能拉回0.8。”

“风险呢？”苏曼问。

“延迟增加15毫秒。医院内网带宽够，终端算力瓶颈在GPU，不在CPU。可以赌。”林尘敲下回车，开始修改配置参数。

苏曼没再问。她转身回工位，重新打开代码编辑器。创业第三年，他们早就过了争论“理想方案”的阶段。现实只认结果，不认过程。能跑通、能交付、能过审，就是好方案。

下午四点，林尘的胃开始抽搐。他拉开抽屉，摸出半包苏打饼干，干嚼了两口，咽不下去，灌了半瓶矿泉水。手机屏幕亮起，是护工发来的微信：小满今天状态平稳，下午做了脑电图，医生说可以减一次镇静剂。押金还剩1200，撑到周五。

林尘盯着那行字，手指悬在屏幕上方。他回复：收到。周五前尾款会到。发完，他把手机反扣在桌上。1200块，加上卡里剩下的八百多，刚好够付云服务器和苏曼的底薪。如果周二院务会没通过，下个月的工资和药费就会断档。他没有退路，只能把进度条往前推。

晚上八点，离线包打包完成。林尘把文件拷进移动硬盘，插入测试机。这是一台他花三百块从二手市场淘来的旧笔记本，显卡是GTX 1060 3G，显存刚好卡在边缘。他启动脚本，监控显存占用。

进度条走到60%，突然卡住。终端弹出红色报错：CUDA out of memory. Tried to allocate 256.00 MiB.

林尘皱眉。他检查日志，发现是数据预处理模块在加载脱敏病历时，一次性把五十个文件全读进了内存。显存爆了。

他关掉脚本，重新打开代码。不能改模型，只能改数据流。他把DataLoader的num_workers从4降到1，把batch_size从8降到2，加上梯度累积。显存占用曲线重新变得平缓，但推理速度肉眼可见地慢了下来。

“能接受吗？”苏曼走过来，看着屏幕上的耗时统计。

“单条推理从120毫秒涨到180毫秒。五十条跑完大概九分钟。”林尘说，“院务会给的演示时间通常是十五分钟。够。”

苏曼点点头，没说话。她拉过一把椅子坐下，开始写演示用的前端界面。不需要花哨的UI，只需要一个输入框、一个运行按钮、一个实时输出日志的文本框。越简单，越不容易在断网环境下出bug。

凌晨一点，测试机风扇狂转。林尘靠在椅背上，闭着眼。左脚的痛感在静止后反而更清晰，像一根细针在骨缝里慢慢搅动。他没动，只是调整呼吸。脑子里过了一遍明天的流程：带硬盘、带U盘、带备用网线、带纸质版操作手册。信息科门禁严，不能带手机进内网区，所有日志必须本地抓取，演示完当场导出。

他睁开眼，拿起笔，在错题本上写下：第236条：离线部署容错。风险：旧显卡显存边界脆弱，数据流一次性加载导致OOM，演示环境不可控。对策：降级数据加载策略，增加显存监控阈值，预留CPU fallback路径。执行：打包完成，明日实地校验。不赌运气，只留余量。

合上本子。他站起身，去洗手间用冷水洗了把脸。镜子里的人眼窝深陷，胡茬泛青，但眼神是静的。他知道，技术从来不是魔法，是无数次试错后堆出来的确定性。

回到工位，手机震动。不是护工，是医院信息科的座机。林尘接起。

“林总，周二下午的终端配置单发你邮箱了。”对方的声音带着公事公办的平淡，“另外提醒一句，那台机器是内网隔离机，USB接口做了物理封堵。你们的数据和脚本，只能通过信息科专用的内网U盘拷进去。演示结束，U盘当场格式化。别带错格式。”

林尘握紧手机。“收到。我们会提前把脚本转成.py单文件，依赖全打包进一个zip。”

“好。别迟到。”电话挂断。

林尘打开邮箱，下载配置单。屏幕亮起，他逐行核对。CPU：i5-8500。内存：16G。显卡：GTX 1060 3G。系统：Win10 LTSC。和他预估的差不多。但最后一行备注让他手指微微一顿：内网环境已禁用所有外部驱动安装权限，仅支持系统自带基础组件。

这意味着，如果他们的离线包里带了任何需要管理员权限的底层驱动，演示时会直接报错。他必须把CUDA运行时彻底静态编译进Python环境，或者改用纯CPU推理的降级方案。

他看了一眼时间，凌晨一点二十。离周二下午两点，还有不到四十八小时。

林尘拉开抽屉，找出最后一卷绝缘胶带，把移动硬盘的接口缠了两圈。然后重新打开终端，输入conda activate local_demo。

屏幕上的光标再次跳动。他深吸一口气，指尖落下。下一行代码，已经写好。窗外的风穿过楼宇缝隙，发出低沉的呜咽。办公室里的灰尘在屏幕微光中缓慢沉降。他知道，明天不会轻松，但路只能一步步走。