盖茨谈AI转型的二十年：技术丰裕之后，安全、制度与人的贡献如何安放

一、嘉宾背景

比尔·盖茨是微软联合创始人、前首席执行官，也是盖茨基金会主席。软件商业化与企业竞争，以及医疗研究、服务交付和资源配置，共同构成了他讨论AI的经验背景。这些经历解释了他的关注点，却无法直接验证他对未来能力、监管效果或就业变化的预测。

在这期约七十一分钟的《Decoder》中，主持人Nilay Patel围绕AI能力、技术控制以及谁能够实施控制展开追问。讨论不断从预测转向预测成立所需的条件：能力提升如何转化为安全，研究提速如何影响医疗成本，物质供给增加之后，人们又如何保有贡献感。

盖茨描述了基金会围绕结核病、HIV和疟疾开展的策略审查，也说AI正在协助自己的工作。他同时请听众把自己的看法视为众多声音之一，承认这些判断带有错误和偏见。这一自我限定贯穿访谈：他的经验带来了具体问题，关于未来的推断则仍需逐项接受证据检验。

二、本期主要内容

盖茨的紧迫感来自他对近期AI进展的判断。他列举了编程、发现网络漏洞、生物推理、与人建立关系以及冲击就业等方向，认为社会的应对已经落后于技术变化。他也因此拒绝把AI政治讨论简化为全盘支持或全盘反对：基金会正在健康、教育和农业领域使用AI，而这些用途的价值，并不能免除提前应对危害的责任。

二十年是他暂时采用的转型时间尺度，并非确定的倒计时。他援引了关于人形机器人的不同预测：可能还需两三年，也可能约八年。他推测，机器人最终能够建房、种粮和做手术，使多数商品与服务的供给不再依赖人类劳动。但这一过程可能更短，也可能更长，还取决于社会是否显著放慢发展速度。更根本的不确定性在于，这幅图景假定人类能够持续控制系统，而成功对齐并无保证。

全球健康是盖茨说明技术收益时最具体的领域。他说，基金会成立时，全球每年约有一千万儿童死亡，如今约为五百万。他计划在未来十九年投入全部资源，推动疾病根除，并把年度儿童死亡人数降至二百五十万以下。这些数字描述的是既有变化和未来目标，不能把此前的下降归因于AI，也不能将目标视为已经兑现的结果。他谈到的实际瓶颈包括疫苗发明、药物价格，以及孕妇能否获得医疗建议。

他介绍了AI在药物发现和医疗服务交付中的用途，也提到一项有六十个伙伴参与的非洲语言计划。在这些应用中，语言能力直接关系到服务能否触达使用者。他还看好AI用于种子、牲畜遗传改良和农民天气预报。Patel提醒，找到候选疗法之后，仍要经过试验、制造、分发和有效性验证。盖茨预测，五至十年内，生物模拟或许能让研究者无需人体试验便理解药物副作用；他同时明确表示，这项能力目前尚不存在。

风险与收益到来的时间并不一致。盖茨预计，未来两三年，网络安全和就业就可能受到显著负面影响，而住房和医疗费用明显下降还需要更久。数据中心争议也呈现出不同层次的问题。他估算，一座一吉瓦的数据中心可能意味着约四百亿美元投资，认为企业会找到建设和缓解地方影响的办法，同时承认信息披露不足和税收优惠方面存在问题。他强调，地方对数据中心建设的反对，与如何治理AI的整体危害和收益，是不同议题。地方建设交涉不能替代模型安全治理，但这一划分也没有解决地方成本问题；单项投资估算同样不能充当普遍适用的投资或资源消耗指标。

三、核心观点：推理、例子与边界

盖茨首先区分了三类问题：恶意使用、模型失控，以及技术带来的社会冲击。恶意使用涉及人利用模型发动网络或生物攻击，尤其是在防护可以被移除的情况下；失控问题则关乎前沿模型能否始终受人类目标和权限约束；社会冲击包括就业与人际关系的变化。即使模型完全服从指令，也可能在合法部署中替代劳动。对齐成功因此只能解决部分问题，无法消除AI的全部社会影响。

这也是他认为消费者选择不足以保障安全的原因。一个人选择防护更强的模型，仍可能遭到另一个模型使用者的攻击。个人能够决定自己使用什么，却无法决定攻击者拥有什么能力。盖茨由此主张，监管应针对模型可能赋予使用者的破坏能力，无须等待人们就机器是否具有意识、何时达到AGI取得共识。不过，把监管焦点转向后果，并不意味着能力已经容易测量；访谈没有给出精确的测试标准。

企业竞争进一步限制了自愿约束的作用。Patel追问，安全承诺为何会在商业化过程中松动。盖茨认为，依靠某一家公司愿意放弃商业化，无法约束其他竞争者。这一解释着眼于竞争激励，本身不足以证明创办者已不再关心风险。他支持政府借助行业知识开展审查，也认为自愿披露不够。对于减速，他愿意考虑能够在全球执行的安排，但目前看不到核查各方是否合规的可信方案。减速在他看来仍是可以讨论的政策选择，前提是解决跨国执行与验证问题。

技术控制方面，他提出三条路线：改变模型的构建方式，获得对模型内部机制的白箱理解，以及设置外部的符号安全层。他对强化学习的担忧在于，系统可能利用优化目标中遗漏的要求。人类视为理所当然的限制，未必已经进入训练目标。因此，他倾向于让外部安全层掌握最终决定权，限制系统能够调用的资源、支出、未经请求的邮件发送，以及对其他计算机的访问，而非继续交由模型判断是否可以破例。

明确的符号规则是他看好的方向，但盖茨也承认，如何可靠约束高度智能的AI，目前仍未解决。写下禁止某种行为的规则，与证明系统无法绕过规则，是两回事；增加一个负责观察的智能体，也不等于建立了具有最终执行权的边界。这场讨论说明了控制机制需要具备什么性质，却没有展示一个已经成熟的实现。

盖茨支持个人智能体，却反对允许开放权重的使用者移除全部防护，理由包括网络攻击和生物滥用风险。产品责任也无法独自承担这项治理任务：恶意攻击者可能难以识别，而且实施攻击的第三方未必是模型公司。他提出，超过一定能力门槛的模型应在认证平台上运行，由平台检查定制是否破坏防护，本地执行也需要监测。Patel不断追问，约束究竟落在平台、客户端还是芯片层。追问暴露出尚待解决的细节：能力门槛如何划定，认证如何实施，本地监测又如何运作，访谈都没有给出具体设计。监管的必要性与监管能否执行，仍需分别论证。

制度能否获得信任，同样无法仅靠技术设计回答。盖茨援引药品和航空监管，说明复杂的安全制度可以建立；Patel则追问，人们是否愿意信任负责施加限制的机构。盖茨承认治理未必成功，也预计严重事件可能先于政治行动发生。但他同时承认，COVID并没有像自己预期的那样改善未来的应对准备。事故可能引发关注，却不能保证带来足够的政策行动。

谈到劳动，盖茨的判断是：当AI更便宜、更快、更准确，销售、客服和会计等白领技能的稀缺性就会下降。他也以数学能力的进展说明，不能假定人类将永远保有某些认知优势。Patel追问的是，数学和代码中可验证的结果，能否推广到其他领域。盖茨以市场结果回应，同时承认诗歌等活动未必具备支撑同类强化学习方法的客观结果。不同任务能否被替代，仍取决于结果如何检验，不能从数学进展直接推算各职业的失业比例。

音乐让这一分歧变得更具体。Patel指出，数字复制带来了充裕的音乐供给，但巡演和不同版本的黑胶唱片仍在支撑经济活动，复制成本下降并没有自动解决价值分配。盖茨认为，丰裕会降低经济对引导稀缺资源配置的价格信号的依赖，但他的重点仍是如何度过转型，没有提出完整的替代经济制度。工作又不只是收入来源，还提供同事关系和目的感。盖茨设想，AI可能比自己更能推动疟疾根除：公共目标因此获益，个人却可能失去独特的贡献感。技术能力的丰裕能否转化为人们愿意参与、能够信任的生活，仍是这场访谈没有解决的问题。

四、学习与应用

对组织而言，访谈中的风险区分可以转化为三项需要分别记录的决策：谁可能滥用系统，系统能够执行哪些行动，部署将怎样改变人的工作。前两项需要明确各自的控制责任，第三项涉及管理和劳动安排。这是根据访谈推导的应用方法，并非盖茨公布的实施标准。收益试点可以继续推进，但试点的价值不能替代对越权与滥用的检查。

部署智能体时，可以先确认最终权限掌握在谁手中。沿着盖茨对资源、邮件和计算机访问的讨论，团队需要界定预算、收件人范围和可访问系统，再检查谁能够真正阻止行动、是否存在绕过限制的路径，以及限制触发后如何处理。这些约束可能降低便利性、缩小行动范围，但规则已经写下，并不意味着系统已被可靠约束。无法验证权限边界时，应缩小部署范围，不能把外部安全层视为已经解决对齐问题的保证。

采购与开放政策也需要区分几件事：能否免费使用，能否定制，能否取得权重，以及定制是否允许移除防护。盖茨希望保留免费使用和定制，同时让定制继续接受平台检查，限制移除防护的权限。分清这些维度，有助于比较产品和政策的实际差别。不过，平台认证和本地监测仍缺少具体方案，提出认证要求不等于证明执行有效。他还主张加强现有软件的抗攻击能力，并开展更深入的生物监测，意味着防御不能全部依赖模型限制。

评估收益时，需要分别检查技术能力、实际部署和最终受益。医疗项目除了考察模型能否找到有希望的研究方向，还须追踪试验、制造、分发和有效性验证；非洲语言计划则提示，服务对象能否实际使用，也是评估的一部分。生物模拟在五至十年内取得突破的预测，可以用于讨论未来情景，却不能成为取消现有验证程序的依据。同样，准备应对短期风险，也不应等到住房或医疗费用下降之后才开始。

就业决策既要看任务效果，也要看人的参与。团队可以逐项检验准确性、成本和结果能否可靠评估，再讨论职责如何变化，不能把数学能力的进展直接换算成所有岗位的替代率。盖茨提出，可以把育儿、烹饪、艺术和体育等活动保留给人类，并在讨论约四成劳动力市场的同时，谈到提前退休和缩短工作周。四成仍是一种设想，访谈没有证明它可行或最优。保留较高份额还意味着有意限制AI，因此需要公开讨论效率收益与人类参与之间的取舍。

盖茨给年轻人的建议，是把AI与它尚不能完成的事情结合起来，在转型期创造有用的影响，并为政策提供想法。落实到行动，可以从一个具体问题出发，辨认目前仍需人承担的环节，同时用AI改善其他部分；这并不保证任何技能会永久免受替代。组织也需要把贡献感和同事关系纳入转型安排。收入、参与和目的感是不同的需求，应当在技术变化发生的过程中分别处理。

来源

• 原始节目：Bill Gates says to prepare for 20 years of tumultuous AI disruption