报告概述
本报告系统梳理了2025年临床AI领域的研究进展与真实世界应用，涵盖模型性能、基准测试、方法论、临床工作流、患者直面的AI以及具体专科应用六大主题。采用目标性文献综述方法，结合来自PubMed、预印本服务器及学术机构征集的实证研究，重点评估AI在诊断推理、预测建模、多智能体协作等方面的能力与局限。报告旨在帮助临床医生、医疗系统领导者和政策制定者理解AI在实践中的真实表现，识别安全风险与证据缺口，从而推动更审慎的部署决策。
报告的核心结论
前沿模型推理能力接近或超越人类，但存在过度自信与不确定情境下的脆弱性。
报告指出，诸如o1-preview、o3等模型在复杂临床推理任务中表现超人类基线，例如在NEJM CPC病例中诊断准确率达78%，但面对不确定性（如问诊信息不全）时性能骤降，且难以识别自己无法回答的问题。这种“脆弱性”可能限制其在真实临床中的自主部署。
当前评估体系过度依赖多选题基准，缺乏对真实工作流与安全性的衡量。
报告显示，95%的LLM研究以准确性为主要指标，仅5%使用真实患者数据；公平性、偏倚、毒性等评估不足。新兴基准（如HealthBench、MedHELM）转向模拟对话、电子病历环境等动态场景，但行政任务和自动化工作流仍评估不足。
临床医生与AI的协作尚未实现最优互补，自动化偏见和技能退化风险值得警惕。
多篇随机对照试验表明，医生使用AI后诊断准确性有所提升，但多数时候未超越AI单独表现。同时，研究发现医生存在自动化偏见（即使AI给出错误建议仍倾向采纳），且连续使用AI可能削弱独立技能（如结肠镜息肉检出率下降6%）。
患者直面AI在健康促进与个性化管理上展现潜力，但过度信任和安全漏洞亟待解决。
AI聊天工具在诊断对话、健康教练、语言翻译等方面达到或超越人类水平，例如糖尿病预防项目中AI教练效果非劣于人类教练，且参与度更高。然而，患者对低准确率AI建议的信任度与医生相当，存在误导风险，需要更强的监管防护。
专科化和任务聚焦的AI应用正加速进入临床实践，尤其是影像领域。
报告列举了数十项专科AI研究，涉及影像、心电图、视网膜图像等非侵入性数据，在特定任务上达到专家水平。例如，AI在乳腺癌检测中提高检出率17.6%而不增加假阳性，在英国卒中影像中使取栓率翻倍。专科模型正成为从模型能力到临床影响的最快路径。
报告回答的关键问题
临床AI模型目前存在哪些主要的安全风险？
报告指出，主要风险包括：模型在不确定情境下过度自信且难以承认未知（如MetaMedQA测试中0%的模型识别出不可答问题）；在超高难度病例中仍有10-20%可能产生严重有害建议（NOHARM基准）；以及患者对低准确率AI建议的过度信任。
AI如何在临床工作流中实际帮助医生？
报告显示，AI在辅助诊断（如准确率提高10%）、减少临床错误（如诊断错误降低16%）、优化工作流（如智能分诊将信息处理时间从1.2小时降至0.2小时）等方面展现价值。但客观时间节约有限，且人机协作尚未实现1+1>2的互补效应。
前沿LLM在医疗领域的真正优势与局限是什么？
优势在于复杂的临床推理和知识检索，例如o3在CPC病例中诊断准确率超过20位内科医生，AMIE在管理推理上优于初级保健医生。局限包括：面对不确定性时表现脆弱（如脚本一致性测试中表现不如主治医生），以及容易记住答案而非真正推理（如将多选题替换为“以上都不是”后准确率下降9-38%）。
多智能体系统在医疗AI中是否优于单一模型？
多智能体系统在特定任务上表现更优，例如MAI-DxO使诊断准确率从20%提升至80%，且成本降低70%。但存在“优化悖论”——分别优化每个子模块反而可能导致整体性能下降（如最佳组件组合使诊断准确率从77%降至68%），关键取决于智能体间的信息流与兼容性。
报告中的代表性数据
FDA批准的AI医疗设备数量
截至2025年底，报告指出市场上已有超过1200款FDA批准的AI医疗设备和35万+消费者健康应用，但仅少数经过同行评审评估。
NOHARM安全基准中LLM致严重伤害比例
2025年，在NOHARM基准测试中，100个真实专科转诊病例里，即使顶级模型仍有10-20%可能生成潜在严重有害的建议，且77%的严重伤害来自遗漏关键检查或治疗。
AI辅助乳腺癌筛查检出率提升幅度
2024-2025年，德国一项463,094名女性的前瞻性研究中，AI辅助双读将乳腺癌检出率从5.7/1000提升至6.7/1000，召回率未显著增加。
以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。
完整报告包含什么
- 市场概览与监管现状：详细分析FDA 510(k)审批路径的局限性，超过95%的AI设备通过该途径获批，但其中约50%的摘要缺少研究设计，<1%报告患者结局。
- 模型性能深度评估：涵盖推理模型（o1、o3）、预测模型（Delphi-2M、CoMET）在诊断准确性、风险分层等方面的多维度表现，包括与人类医生的头对头比较。
- 基准测试与评估框架：全景扫描现有基准的饱和问题，重点介绍HealthBench、MedHELM、MedAgentBench、NOHARM等新型评估工具的设计逻辑与发现。
- 方法论创新：包括将医疗事件转化为token的医疗事件基础模型、多智能体系统的优化悖论、过程奖励模型（Med-PRM）对推理步骤的评分机制等前沿方法。
- 临床工作流集成：基于随机对照试验分析AI自动诊室听写、消息分诊、出院摘要生成等工具的真实效果，验证主观收益与客观时间节约之间的差距。
- 患者直面AI应用：涵盖AMIE诊断对话、糖尿病预防AI教练、AI翻译与健康教育等案例，评估其在提升患者参与度和可及性方面的同时，如何防范过度信任风险。
- 专科AI部署案例：按影像、心血管、神经、消化、肿瘤等专科分类，汇总UC检测、卒中取栓、超声机器人、心电图筛查等真实世界成功案例与失败教训。
- 2026年十大预测：包括第一起AI相关医疗事故诉讼、急诊AI代理的普及、标签系统与工作流整合、AI预先授权军备竞赛等前瞻性判断。
- 伦理与披露：提供作者与ARISE网络的利益冲突声明、资助来源，以及报告独立的立场。
- 互动资源与会议信息：附有MAST基准排行榜（bench.arise-ai.org）、ARISE教育项目（斯坦福/哈佛AI课程）及免费研讨会链接。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
