从健康问答到医疗支持：Karan Singal谈ChatGPT的能力、证据与责任边界

一、嘉宾背景

Karan Singal在这期a16z访谈中被介绍为OpenAI健康AI研究负责人。主持对话的Jay Rugani在开场介绍自己是负责医疗与生物技术投资的a16z合伙人。两人讨论的是，随着人们广泛使用ChatGPT处理健康疑问，模型怎样提供可靠支持，以及这种支持与医疗服务如何衔接。

Singal曾研究专用模型，如今主张在通用前沿模型中进行医疗专项训练。这段经历交代了他技术立场的转变。访谈没有提供更完整的职业履历，也没有依据将他描述为执业医生或临床治疗专家。

他为OpenAI的健康方向提出了两个目标：让可信的健康智能免费或接近免费，同时发展过去无法实现的能力。前者着眼于扩大获取机会，后者指向能力上的突破。这也使访谈同时涉及当前用途和长期设想。作为相关研究的负责人，Singal提供了直接参与者的观察；其中关于产品效果和未来发展的判断，仍需结合各自的证据理解。

二、本期主要内容

访谈从医疗服务供给不足和问诊时间有限谈起。Rugani回忆，看皮肤科之前，他已经记下要问的问题，面诊时却仍然遗漏了一个，再次预约要等四个月。这段经历无法衡量整个医疗体系的表现，却说明短暂问诊结束后，患者仍有理解信息、补充提问和安排后续行动的需要。Singal因此将两次就诊之间视为消费者尤其能从AI获得帮助的阶段：准备问题、理解医疗信息、寻找合适的服务，并落实医生的后续指示。

Singal提供的使用数据说明了这类需求的规模。他称，每周有超过三亿人使用ChatGPT处理健康与养生问题，绝大多数通过免费渠道使用，多数位于美国以外。这些是他在访谈中的使用量陈述，不能据此判断回答的准确性，也不能证明使用者获得了更好的健康结局。

Singal还转述了Nathan一家人的经历：AI帮助家长意识到幼子症状的严重性，之后的检查发现孩子患有侵袭性白血病。治疗期间，Nathan又借助GPT-5 Pro理解报告、了解治疗流程。这段叙述呈现了AI帮助家庭识别求助时机、理解医疗信息的用途，但它仍是个人案例；访谈没有提供可用于比较诊断表现的证据。

讨论随后转向主动、个性化的健康助手。Singal支持让助手结合个人健康信息提供提醒，同时强调它不替代医生。他还表示，消费者连接的健康信息不会用于模型训练或广告定向。双方谈到的代理用途包括预约、核对保险承保范围、协助落实医生开具的出院计划，以及处理账单错误。Singal指出，医疗软件碎片化和大量遗留系统会阻碍这些功能落地，不能指望所有机构很快提供现成连接器；让代理通过计算机操作能力（computer use）使用既有界面，可能是一条可行路径。

在Singal看来，模型质量、产品设计和合作部署是三个分别需要解决的问题。模型能力再强，启用和使用所需的精力过多，也会影响采用；进入医疗机构还需要处理HIPAA合规、安全和隐私。他介绍了已宣布的Epic与ChatGPT连接，并称UCSF作为早期采用者，正在探索病历审阅，以及减少临床人员在不同界面之间切换。这些尝试把健康AI的讨论从回答质量推进到实际工作流程：能力能否发挥作用，还取决于产品如何设计、机构如何接入和使用。

三、核心观点：推理、例子与边界

Singal主张，在通用前沿模型中进行医疗专项训练。他说，过去一年推出的模型在每个训练阶段都纳入了医疗数据。理由是，独立发展的小型医疗模型可能逐渐落后于前沿模型；在通用模型中训练医疗能力，则能继续受益于规模扩大和推理能力的进步。不过，访谈没有提供两条技术路线的受控比较，无法据此判断独立医疗模型必然表现更差。

在他介绍的评估体系中，可信度也包括模型能否让不同使用者理解回答。HealthBench会评估模型是否根据普通用户、经验丰富的患者和临床医生调整术语与解释。医学表述即使准确，如果超出读者的理解范围，也可能妨碍使用。为避免评估过度依赖少数医生的判断，团队建立了由数百名专家组成的全球网络，覆盖数十个专科、多种语言和不同执业国家。扩大专家来源有助于处理判断分歧，但不会消除医学争议。

当用户希望得到安慰，或在危险已经出现时仍寻求替代疗法，安全要求会与用户期待发生冲突。Singal说，训练和评估必须优先要求模型识别并指出危险。令人安心的回答未必真正有帮助，也可能延误求助。对于AI与医生意见不一致的情况，他建议向另一位医生寻求第二意见：模型可以帮助明确需要复核的问题，回答的流畅程度却不足以决定谁拥有最终判断权。

Singal还区分了生物医学文献、临床指南与实际诊疗。他援引未具名研究，称相关知识进入实践可能存在五至十七年的延迟，希望通过在诊疗现场提供文献访问来缩短这一过程。访谈并未证明这一目标已经实现。而当研究本身尚无定论时，增加检索也不能消除未知。他说，模型即使搜索过资料，仍应承认证据不足；能否恰当表达这种不确定性，也是HealthBench的评估内容。知识传播缓慢与科学证据不足，需要分别处理。

心理健康让评估更为复杂。Singal说，团队与世界各地的持证专家合作，试图在存在显著分歧的情况下建立可测量的行为共识，既考察基本安全，也考察模型能否提供积极帮助。他承认，这一领域的分歧比身体健康领域更多。建立共同评估标准因此本身就是一项工作，而基准的发布还不足以证明长期治疗收益；访谈没有提供完整方法和临床结局供检验。

在临床安全方面，Singal提到Panda Health开展的实验，包括提示用药问题，以及提醒临床人员注意抗生素过度使用。这类提醒试图为临床判断增加一道复核机会。不过，访谈没有报告样本量、错误提醒带来的负担或量化临床效果，尚不能据此判断整套系统的有效性。

经济数据也需要按衡量对象分别理解。Singal称，Advent Health多类行政工作流的成本降低了约80%，临床产品的留存表现也令人鼓舞，但没有披露详细测量方法或留存数字。按照转录中的模型名称，他还称GP6 Luna在HealthBench Professional上优于5.6 Soul，成本低34倍，却没有给出具体分数和定价细节。这些陈述分别涉及机构流程成本、产品采用情况和模型使用成本。Singal明确表示，健康智能尚未对医疗总支出产生宏观影响。模型成本下降之后，仍需经过集成、部署和规模化，才可能转化为系统层面的节支。

这些讨论始终受到信息服务与医疗服务边界的约束。Rugani指出，医疗包含诊断、分诊、照护计划、同理心和法律责任等一整套服务；Singal则将OpenAI定位为导航者，以及帮助合作伙伴提供服务的一方。即使医患双方在就诊前都使用AI，面诊仍可能需要补充病史、进一步调查、身体互动，以及同理心和安慰。模型未必掌握全部相关信息，一份看似完整的分析也不能证明检查、处方和照护责任已经履行。

四、学习与应用

对普通使用者，访谈提出的直接用途是利用两次就诊之间的时间做好准备与核对：整理尚未理解的医嘱、报告中的问题和后续事项，将需要医生确认的判断列清楚。这对应Singal所说的信息支持，也保留了医疗服务的责任边界。当AI与医生意见不一致时，可以将分歧整理成具体问题，或向另一位医生寻求第二意见。回答是否令人信服，不足以单独作为取舍依据。

对主动健康产品，Singal提出的A1c例子可以拆成几个需要分别验证的环节：发现指标升高或用药依从性问题，发出提醒，再交由临床人员复核。产品评估因此需要区分是否识别了变化、提醒是否送达、是否促成必要复核，以及最终是否改善健康。后续环节是根据访谈所述边界提出的验证要求，并非已报告的成果。发出提醒本身，不能算作诊断完成、用药调整完成或慢病管理有效的证据。

医院和创业团队可以据此审视模型、产品和部署之间的衔接。选择病历审阅、预约或出院安排等具体任务之后，需要明确任务的完成条件，再检查产品能否融入现有流程、机构能否满足部署要求。连接器可用，或代理能够操作界面，只意味着技术通路已经具备；人工复核、失败后的接手方式和实际使用负担，仍需纳入评估。对于行政降本，还应交代流程范围、比较基线和计入的成本。Advent Health局部工作流约80%的降本报告，不能外推为医院总成本或患者账单按同样比例下降。

支付方与医疗服务方的账单处理，则说明自动化也可能加速既有对抗。Rugani以不确定的口吻提到，双方使用账单机器人可能增加支出；Singal提出另一种安排：以共享的就诊信息为基础，由AI辅助裁定，并保留有限申诉。对于流程设计，这意味着需要先明确共同事实、证据访问权限和申诉路径。不过，访谈没有证明有关机构已经接受这一安排，也没有证明AI能够解决双方的利益分歧。

长期健康项目还需要区分发现线索与验证结果。Singal用健康领域的“第37手”表达对意外洞察的期待，并设想结合多年病历、对话和其他既有医疗数据预测风险。这仍是早期愿景。推进这类项目，需要明确预测对象、可用信息和验证标准；能够汇总多年资料，并不等于能够可靠预测风险。他对创业者的建议是预期模型和代理会继续变强，将重点放在照护交付与患者旅程监测上。他认为预防和更有针对性的干预可能较早带来收益，医疗机器人则还面临技术、报销和系统整合障碍。这些时间判断仍属于预测。

在科研端，Singal预计，未来五至十年可能出现的收益包括AI提出治疗靶点或分子，以及更好地安排候选方案的优先级并开展临床验证。他认为，现有候选方案的数量已经超过可用的试验容量。因此，评估AI科研价值时，除了生成多少候选方案，还需要考察它能否帮助有限的验证资源优先检验更有价值的方案。从主动健康提醒到药物发现，信息生成、后续行动和最终结果都需要各自的证据。

来源

• 原始节目：Should You Trust ChatGPT With Your Health?