川海智库

报告概述

本报告聚焦于如何在医疗健康领域建立对人工智能的信任。它分析了当前全球AI监管的碎片化现状，指出现有评估框架难以适应AI技术的概率性和动态演变特性。报告提出了一种务实的路径，包括通过立法设定基线、制定指南补充法规、利用监管沙盒促进创新，并强调上市后持续监测的重要性。此外，报告深入探讨了公私伙伴关系在共同制定标准、支持监管创新和构建共享评估基础设施中的关键作用，旨在为医疗系统领导者、监管机构和私营部门提供行动框架。

报告的核心结论

公私伙伴关系是推动医疗AI信任建立的核心机制。

报告指出，公私伙伴关系应超越单纯的咨询，转向主动共同开发评估标准和监测框架。通过汇集私营部门的技术能力、数据资源和创新速度，与公共部门的监管权威和公共利益使命相结合，可以更有效地应对AI技术的快速演进，确保患者安全和公众信任。

监管框架需要根本性改革以适应AI的动态特性。

传统的医药和医疗器械监管侧重于上市前验证，但AI系统在部署后可能持续演变。报告强调必须引入动态治理机制，如监管沙盒用于受控测试、生命周期评估以及上市后监测，以持续确保AI系统的安全性、有效性和公平性。

全球AI监管碎片化正在阻碍医疗AI的规模化部署。

不同国家与地区（尤其是全球南北之间）在AI监管方法上的分歧，给跨国企业带来合规挑战，并可能导致市场准入壁垒。报告呼吁加强国际协作与能力建设，特别是在资源不足的卫生系统中，以促进监管趋同和互认，实现AI效益的公平分配。

后市场监测对于应对AI的不断演变至关重要。

AI系统的概率性意味着其性能在开发与部署后可能发生变化。报告认为，利用真实世界数据进行生命周期监控，可以及早发现新风险并实现迭代适应。例如，美国FDA已开发专用工具来监测AI医疗设备的输入、输出和性能变化。

报告回答的关键问题

医疗AI面临哪些独特的监管挑战？

医疗AI具有概率性和动态演变的特性，而传统监管框架主要针对确定性产品（如药品和医疗器械）设计，难以有效管理AI的不确定性。此外，AI产品数量增长极快（全球AI市场从2020年620亿美元增至2023年近2000亿美元），远快于传统药品审批数量，给监管机构带来巨大压力。同时，全球监管规则的分歧也增加了跨国部署的复杂性。

监管沙盒如何帮助促进医疗AI创新？

监管沙盒是由卫生当局建立的受控环境，允许创新者在量身定制的监管约束下测试新数字健康技术。沙盒可以提供数据集、咨询支持等资源，帮助创新者收集真实世界性能数据，同时确保患者安全和隐私。例如，英国MHRA于2024年启动了首个AI医疗设备监管沙盒“AI Airlock”，旨在平衡患者保护与创新灵活性。

公私伙伴关系在AI治理中扮演什么角色？

公私伙伴关系在AI治理中发挥多重关键作用：在前期参与政策制定和指南开发，提供行业见解；在实施阶段将立法目标转化为可操作的程序；在测试和监控阶段，利用私营部门的技术专长构建实时监测能力和独立质量保证资源。例如，美国CHAI和欧盟TEF-Health等倡议就是通过公私合作推进AI评估标准。

为什么医疗领域对AI的信任至关重要？

医疗健康涉及患者安全和隐私，公众和专业人士对AI的接受度取决于其可信赖性。报告指出，缺乏信任会导致采用迟疑，阻碍AI在改善诊疗效果和提升系统效率方面的潜力发挥。建立信任需要确保AI系统的一致性、可重复性、无偏见、透明且安全，这要求严格的评估、清晰的监管和利益相关方的广泛参与。

报告中的代表性数据

约2000亿美元

全球人工智能市场规模

2023年，根据报告引用的Grand View Research数据，全球AI市场规模从2020年的620亿美元增长至2023年的近2000亿美元，反映了AI技术的快速增长。

1000万

医疗工作者短缺预测

2030年，世界卫生组织估计到2030年全球将短缺1000万名卫生工作者，尤其是中低收入国家，凸显了利用AI缓解人力压力的紧迫性。

47种

美国FDA年均新药批准数量

2021-2023年，报告引用FDA数据，2021-2023年间平均每年批准47种新药，相比之下AI医疗产品数量增长迅速，2020年已超过新药数量，表明传统监管模式面临挑战。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 详细分析全球不同区域（美国、欧盟、OECD国家、全球南方）AI监管框架的差异及其对医疗AI规模化部署的影响。
  • 深入探讨私营部门在推动进步与标准化方面的三种工具：程序性工具（评估与证据生成）、技术性工具（透明与偏差检测）和教育性工具（培训与能力建设）。
  • 阐述立法在AI治理中的基础作用，以及指南如何补充立法以保持创新与安全之间的平衡，包括现有医疗产品例外使用案例（如EAP、PECAN、DiGA）。
  • 介绍多个国家的监管沙盒案例（如英国AI Airlock、新加坡LEAP、日本监管沙盒），分析其设计要点与行业针对性。
  • 详细说明上市后监测（包括药物警戒方法）如何应对AI的动态演变，并介绍FDA等机构开发的专用监测工具。
  • 系统性分析公私伙伴关系在医疗设备监管中的历史经验（如IMDRF、GHWP），以及近年专为AI创建的新倡议（如CHAI、TRAIN）。
  • 提出一个分阶段的AI监管框架（监管条款→独立指南设定→操作化→独立测试），并说明私营部门在每个阶段的适当参与方式。
  • 探讨质量保证资源（QARP）网络的建设，包括美国CHAI的认证框架和欧盟TEF-Health的测试实验设施，用于独立评估和训练AI模型。
  • 附录中列表展示横跨能源、金融、电信、交通等多领域的监管沙盒国际案例，供医疗领域借鉴。
  • 由超过50位专家参与的访谈和研讨会成果总结，以及报告引用的大量学术文献和官方文件来源。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告