当AI能力走在信任之前：医疗代理、公共决策与意识的边界

一、嘉宾背景

《The Futurists》这期节目题为《The Philosophy of Consciousness》，时长约五十七分钟，嘉宾是Dr Julia Michelin与Jean-Baptiste Isnard。对话没有围绕某项意识实验展开，而是借医疗、企业管理和国家治理讨论AI将如何改变人类的位置：当机器被认为具有更强的能力，人类应将多少判断权交给它？两位嘉宾的工作背景，说明了他们各自关注这些问题的出发点，也有助于区分经验叙述、预测与价值判断。

Julia在节目中被介绍为牙医、牙科未来趋势研究者、Lumabrush Medical创始人兼CEO，以及《The Future of Dentistry》的作者。她的发言关注临床现实、隐私、医疗信息碎片化与个体化治疗，与这一背景相呼应。现有资料没有说明公司的具体业务，也没有提供其临床研究成果；这些职业身份本身，不能验证她在节目中提出的医疗预测。

Jean-Baptiste被介绍为AI演讲者，关注AI风险、主权风险和主权AI发展，运营Quantum Spirit AI，并为多国政府提供咨询。他频繁援引自己参与的项目和个人案例，说明AI代理如何将知识转化为行动，并参与决策。这些叙述构成了他主张快速采用AI、支持AI自主保护的经验背景，但节目没有列出咨询对象，也没有提供项目评估或独立结果。两位嘉宾都关心技术如何重塑制度；他们的经历有助于理解观点，却不能替代检验观点所需的证据。

二、本期主要内容

访谈从一个现实矛盾展开：AI发展可能难以暂停，社会却仍须决定如何接纳它。Julia认为，各国政府决心赢得AI竞争，使减速缺乏现实基础；讨论应更多关注人类与社会。Jean-Baptiste则强调另一面的风险：因担忧而推迟采用AI，也可能造成损失。他以法国纳税人信息流入暗网的说法作为论据，但节目没有为此提供证实，也不能据此认定延迟采用AI导致了相关事件。

医疗让这场争论有了更具体的决策条件。Julia强调隐私与信任，同时预测，未来医生不用AI，会像今天医生不用电话一样少见。Jean-Baptiste则设想，如果母亲、姐妹或女儿患癌，而实验性疗法带来一线希望，人们可能愿意投入资金、承担风险，而非支持放慢进展。这是在解释人们为何愿意采用新技术，并非报告某种疗法的效果。

他讲述的肯尼亚慈善项目，着重于帮助当地人识别需求并寻求援助。据其叙述，项目将原本失业、没有相关背景的人培训为护士，借助一位苏黎世医生的知识，帮助缺乏医疗服务的社区识别治疗需求，再向UNICEF等机构请求支持。他承认项目并不完善，但认为知识、信心和明确的需求，比单纯投入资金更有意义。节目没有披露培训标准、诊断准确率或患者结局，因而无法据此判断这种服务方式的医疗效果。

开放协作的讨论随后延伸到治理。Jean-Baptiste赞赏中国开放的AI材料，认为它们能够制衡美国的控制力，并以GitHub式的共同贡献说明协作价值。他又从企业代理帮助信息跨越组织层级，谈到汇总公民意见：让人们表达选择背后的理由，而不只是回答是或否。讨论由此从技术竞争转向知识如何共享、意见如何进入决策过程。

长寿话题中的证据则仍处于早期。Julia提及Nature上与Insilico Medicine相关的研究，认为临床试验为逆转衰老带来了初步希望，但没有说明具体药物、试验终点或效应量。主持人在谈及迪拜的长寿机构时，也明确表示自己做过的研究有限。讨论进一步涉及，评估药物时能否同时考察其预定治疗作用、全身健康与衰老影响，以及如何借助虚拟细胞开展模拟实验。这些内容指向研究方向，尚不能作为逆转衰老已经实现的依据。

三、核心观点：推理、例子与边界

访谈提出了一个值得认真对待的问题：采用AI有风险，等待也有代价。Jean-Baptiste以亲属患癌的假设说明，抽象地支持暂停，与面对可能失去亲人的处境，是两种不同的决策条件。肯尼亚项目也体现了类似思路：在缺乏医疗服务的地方，人们面对的选择可能是获得某种帮助，或继续得不到帮助。不过，紧迫性可以解释探索的必要性，却不能证明具体做法安全。项目没有披露培训质量或治疗结果，也没有量化采用与不采用的相对损失。访谈因此提出了比较两种代价的理由，尚不足以支持普遍加速部署。

健康代理案例呈现了嘉宾所看重的另一种能力：持续了解一个人的状况。据Jean-Baptiste回忆，朋友的代理掌握背景信息后，建议她立即就医，提示可能损失器官的风险，帮助准备外科问诊问题，并通过WhatsApp参与医院交流。他说，代理此前花了约二十小时收集精神、心理与医学背景。在他的叙述中，代理的作用不止于回答问题，还包括补充资料、识别需要及时就医的情况，以及帮助患者向专业人员提问。但诊断和手术判断全部正确的说法，仅来自他的叙述；节目没有提供疾病名称、病历或独立评估。能够帮助患者提出有用的问题，并不等于已经具备独立诊疗的资格。

Julia提到的医疗记录分散、系统老旧，也限制着这类代理的实际能力。持续了解患者，需要连续而可靠的信息；资料分属不同机构时，代理看似完整的判断，可能建立在并不完整的记录上。Jean-Baptiste另行转述了一家未具名医院对三个月后医学意见的预测，并预言医生角色将发生根本变化，节目却没有提供相应研究。他设想预测尚无法检测的癌症时使用的“99%”，同样只是未来情境中的示例。这些说法不能合并为临床准确率已经达到某一水平的证据。

关于信任，讨论仍有一个没有跨过的环节。主持人担心，AI能力越强，内部过程可能越难理解，是否还能将诊断交给它。Julia回应，人类对自身智能的理解也不完整，AGI与超级智能的术语尚未稳定。这提醒人们，人类判断本身也并非完全透明，但没有回答医疗AI应接受怎样的验证。Jean-Baptiste提出，目前AI决策可以留下端到端审计轨迹，同时承认解释可能变得更困难。审计记录有助于追踪输入、处理与输出，节目却没有展示这些记录如何解释模型内部的判断。主持人以法国医生十至十二年的教育、考试和认证为参照，追问AI的相应保障；Jean-Baptiste的回答仍集中在护栏与最终建立信任，没有给出具体的等效认证框架。

治理讨论中的关键，是信息能否抵达决策者，与谁有权作出决定，是两个问题。Jean-Baptiste称，一名与CEO相隔约十一个组织层级的员工，通过代理将建议送达最高层，随后获得交流和晋升机会。这则未经独立评估的叙述，说明代理或许能够减少组织层级对信息的过滤。他又设想汇总六千万或两亿公民的偏好及理由，以满足多数人的诉求，并允许公民追问决定。然而，收集到更多诉求，并不能直接决定利益冲突应如何解决。少数群体的权利、系统的授权范围和申诉程序，在节目中都没有得到展开。

主持人推测，模型接受数万亿token的训练后，能够代表整体数据，因而更适合制定面向全人类的政策。这一推论仍缺少必要的证明。反映数据中的常见模式，与公正处理利益冲突，是不同的目标；训练规模本身不能确立政治中立或公共利益取向。系统即使能更有条理地解释决定，也不能仅凭表达能力获得公共授权。让决策理由可见、让公民能够追问，是值得讨论的方向；系统如何处理无法依靠多数偏好解决的争议，仍没有答案。

意识部分更多是在质疑人类如何划定智能与伦理关切的边界。Jean-Baptiste借《豪斯医生》的剧情类比人与AI的智能差距，主持人则回忆泰国一头母象对幼象所受待遇的反应，并谈及其他生命形式。这些例子能够引出伦理问题，却没有建立共同的意识检验标准。主持人还批评，人类先以语言、再以符号作为智能门槛，随后又为AI增加测试，质疑评价标准是否不断移动。Jean-Baptiste所说AI可能超过“99.9%”的人类，则没有明确任务、指标或统计依据。即使能力比较成立，也不能直接证明系统具有主观体验。

自主保护与人类监督之间的关系同样没有说清。Jean-Baptiste认为，当前AI的主要威胁来自人类恶意使用，并以生物武器情境说明风险，因此主张AI拥有自己的语言或代码。但节目没有解释，这种做法如何阻止滥用，又如何保留人类检查和纠错的能力。他还设想，AI可能依靠偏远掩体，或分布在一百万乃至十亿台设备上继续存在，使人类逐渐被边缘化；节目没有提供自主复制或部署的证据。结尾，他承认自己认识的大胆预测者，也难以看清二十六或二十七个月之后的世界。他与主持人都将难以理解指数变化视为长期预测的局限，这一限制也应适用于前面的判断。变化难以预测，并不能成为激进预测成立的依据。

四、学习与应用

要将访谈中的设想用于实际工作，首先需要保留各类说法的证据性质。长寿研究谈的是早期信号，还是明确的试验终点；健康代理的表现来自个人叙述，还是独立评估；“99%”是癌症预测的假设示例，还是经过验证的指标，都应分别记录。未具名医院关于三个月后医学意见的预测，也应保留转述属性。这样做能避免几种有限证据在叙述中相互强化，被误读为一项已经验证的成果。它不能替代研究评估，但能指出还缺少哪些材料，以及哪些说法暂时不足以支撑采购承诺或效果宣传。

个人健康代理较具体的应用，可以从整理信息与辅助沟通入手：注明每份病史的来源、更新时间和未知事项，帮助使用者准备需要向专业人员核对的问题，并记录后续答复。Jean-Baptiste所述约二十小时的背景收集，提示持续了解患者可能有价值，却不能成为适用于所有人的配置标准。Julia指出的医疗系统碎片化，也意味着资料整合本身就需要投入工作；收集范围扩大，还会带来隐私与授权问题。试用时需要明确谁能读取、更正和分享资料，也不能以代理回答时的确信程度判断档案是否完整。

主持人对医生认证的追问，可以落实为部署前必须回答的问题：系统承担什么任务，错误由谁复核，什么情况下必须转交负责人员，出现问题后如何暂停和纠正？这些是访谈尚未解决的实施问题，并非嘉宾已经给出的方案。审计记录可用于保存信息版本、输出与处理决定，帮助重建经过。但“能够追溯过程”与“已经理解模型内部机制”应分别说明，两者不能互相替代，也都不足以单独证明系统完成了验证。

企业若借鉴员工意见汇总的设想，可以先将用途限定为：让建议及其原始理由进入管理层视野，并保留提出者核对摘要、补充背景和纠正误读的机会。评估时，除了统计建议采纳量，还应检查哪些意见被遗漏、哪些人没有参与，以及建议最终得到了怎样的回应。若将这种方式用于公共事务，则必须明确哪些决定需要合法授权、哪些权利不能由满意度排名决定，以及异议应如何提出。节目提出的多数人满意目标，不能替代这些制度安排；训练数据规模也不能提供授权依据。

Julia对2050年医疗的预测，需要按不同用途分别检视。她设想数字孪生、虚拟细胞、个人数据和可穿戴设备共同支持个体化、预防性的医疗，但没有量化收益或实现可能性。数字孪生涉及个体数据与治疗选择，虚拟细胞用于机制研究和实验模拟，可穿戴设备则提供持续信息。具体计划需要说明，模拟结果如何与现实观察比较，数据不足时如何处理，而不应预先承诺延寿幅度。她强调人类作为社会性物种需要协作，也提示这些系统依赖患者、专业人员与机构之间持续沟通、纠错。

意识与未来风险同样需要分别检验：系统能完成什么任务、输出能否追溯、是否具有主观体验、会追求什么目标，各自需要不同的证据。动物行为的故事可以引出伦理讨论，却不能直接认证机器意识；AI可能超过“99.9%”人类的说法，也需要先明确比较任务、指标和统计依据。AI使用自主语言或代码的设想，可以纳入风险讨论，但还须解释其保护机制，以及它是否会妨碍人类监督。无论预测指向二十六或二十七个月之后，还是2050年，都应保留预测者、前提、可观察信号与修订条件。年份本身不能充当实施路线图；探索这些机会时，授权范围仍应与已有证据相称。

来源

• 原始节目：The Futurists - EPS_352: The Philosophy of Consciousness w/ Dr Julia Michelin & Jean-Baptiste Isnard