川海智库

报告概述

本报告系统评估了2025年临床人工智能领域的突破与挑战，研究对象包括前沿大语言模型（LLM）、多代理系统、多模态模型以及患者直面型AI。覆盖范围从模型独立性能（推理、预测）到临床工作流中的实际协作，再到新基准评测方法。报告采用定向文献回顾方法，从PubMed、预印本服务器等筛选高质量实证研究，围绕六大主题展开分析。旨在帮助临床医生、卫生系统领导者和政策制定者理解当前证据基础，识别真正具备现实世界影响的工具。

报告的核心结论

模型能力加速但临床影响证据有限

前沿LLM在受控推理任务中已超越人类医生，例如o1-preview在临床推理质量上实现99%满分率，远超医生35%。然而，多数研究仍停留在回顾性验证，缺乏前瞻性随机试验证明其对患者结局的改善。

前沿LLM在不确定性场景下表现脆弱

当面临模糊信息、缺失数据或需要修改诊断时，模型性能急剧下降。例如在"None of the other answers"测试中，GPT-4o准确率从81%跌至43%；脚本一致测试显示模型过度使用极端评分，难以更新判断。

临床医生最需要的自动化任务研究不足

行政工作流（如计费编码、处方书写）在519篇研究中仅占0.2%，而医学知识问答占45%。医生高度渴望减轻琐碎负担，但当前基准和评估严重低估了这些用例。

患者直面型AI潜力大但缺乏安全护栏

Google AMIE在模拟诊疗中诊断准确率与医生相当，但另一项研究发现用户无法区分AI与医生回复，甚至愿意遵循低准确率AI建议。无监督使用面临严重的过度信任风险。

FDA审批基础薄弱，真实世界证据有限

截至2023年，691个AI/ML医疗设备中>95%通过510(k)途径获批，该途径依赖与已有设备的等效性，而非独立临床验证。约50%的审批摘要缺失研究设计，<1%报告患者结局。

报告回答的关键问题

临床AI目前部署规模如何？

报告指出AI已广泛嵌入医疗领域：超过1200个FDA批准的AI工具、35万+消费者应用，市场达700亿美元。但仅少数工具经过同行评审评估，多数通过510(k)等效途径获批，证据基础薄弱。

前沿LLM在医学推理中表现如何？

o1-preview和o3在一系列评测中展现超人类推理能力：NEJM疑难病例诊断准确率78%，正确选择下一步检查87%。但在不确定性场景下（如修改问题选项、多轮对话），所有模型出现显著下滑，显示出对模式识别的依赖。

患者面临AI有哪些安全风险？

一项300人研究发现，用户无法区分GPT-3与医生的医疗建议，甚至对低准确率AI回复给予同等信任。77%的严重医疗错误来自未能推荐关键检查或治疗的遗漏型错误，多代理系统可将严重有害建议比例降至10%以下。

人机协作在临床诊断中效果如何？

多项RCT显示AI辅助可提升医生诊断准确率7-10%，但人机组合通常未超越AI单独表现。例如GPT-4辅助后医生得分7%提升，但模型单独仍高出1%。优化协作设计（如第一/第二意见）比单纯提供AI输出更重要。

多模态AI在哪些临床领域最接近应用？

成像仍是最成熟领域：AI在乳腺癌检测、卒中影像、眼底筛查等任务中达到或超过放射科医生水平。多模态模型如MUSK在23项基准中超越7个前沿模型，肾癌复发风险分层C-index达0.84，但基准测试中的高分可能掩盖对抗干扰的脆弱性。

报告中的代表性数据

691个设备，>95%通过510(k)途径

FDA批准的AI/ML医疗器械数量及审批路径

1995-2023，截至2023年，691个AI/ML医疗设备中超过95%通过510(k)上市前通知途径获批，该途径基于与已有设备的实质性等同，而非独立临床验证。

用户对低准确AI回复的信任与医生回复相当

AI诊断对话中用户对低准确率AI的接受度

2025，在300名参与者中，用户无法区分GPT-3与医生的医疗建议，甚至对故意降低准确率的AI回复同样视为有效和可信，存在严重过度信任风险。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 模型性能详细分析：包括o1/AMIE等前沿模型在推理、诊断、管理任务中的测试结果，以及识别不确定性、过度自信等失败模式的实验。
  • 基准评测体系：介绍HealthBench、MedHELM、MedAgentBench、NOHARM等新标杆，评估模型在真实对话、模拟EHR环境及安全性上的表现。
  • 基础方法突破：预测模型（如CoMET、Delphi-2M）将医疗事件转换为可预测序列；多代理系统（如MAI DxO、MAC）在罕见病诊断中超越单模型；多模态模型（如AMIE、MUSK、EyeFM）整合文本与影像。
  • 临床工作流中的人机协作：涵盖AI辅助诊断RCT（如紧急护理、乳腺影像、肺功能解读）、环境AI产生的时间节省与主观效益、以及自动事实核查系统。
  • 患者直面型AI应用：包括诊断性对话（AMIE）、健康教练（CV-Coach、GPTCoach）、生活方式干预（糖尿病预防DPP）、虚拟现实运动系统及临床笔记简明语言翻译。
  • 特定领域应用：覆盖影像（CT、MRI、超声）、ECG、眼底、病理等模态，以及危重症治疗、外科风险分层、临床试验匹配等场景。
  • 2026年十大预测：涉及首起涉AI医疗诉讼、AI急诊代理、FDA监管进展、云端助手市场扩张等前瞻性判断。
  • 专家披露与研究资助：报告作者利益冲突声明，以及Gordon and Betty Moore Foundation、NIH等资助方信息。
  • 在线资源与互动基准：MAST医学AI超级智能测试的在线排行榜（bench.arise-ai.org），可比较不同模型及多代理组合的安全性能。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告