川海智库

报告概述

本报告由RAND与牛津大学网络与技术政策项目联合发布，聚焦美英双边合作以提升前沿人工智能系统的安全性。研究对象为前沿AI开发与基础设施，尤其针对国家行为者的高级持续性威胁。报告采用威胁驱动的控制映射方法，结合文献综述与专家访谈，提出五个安全集群框架（访问与接口、开发与供应链、监控与响应、人员安全、物理与环境安全），旨在为政策制定者、国家安全官员及AI实验室负责人提供可操作的协作路径，无需对行业进行全盘改造。

报告的核心结论

当前前沿AI安全措施不足以应对国家行为者威胁

多数前沿AI实验室仅具备抵御网络罪犯的能力，但面对国家支持的复杂攻击时存在显著安全缺口。报告指出，需要将安全标准提升至与军事和情报设施相当的水平。

美英双边合作能有效提升AI安全并塑造全球规范

美英拥有互补的情报、反情报及物理安全能力，通过协调标准、共享威胁情报和联合行动，可避免重复劳动，建立西方AI安全联盟的基础，在战略竞争对手之前树立民主价值观下的安全模式。

五集群框架实现风险驱动的安全控制优先排序

将AI安全分为访问与接口、开发与供应链、监控与响应、人员安全、物理与环境五个集群，每个集群映射真实攻击路径。该模块化结构允许政府和实验室根据威胁情报动态调整保护重点，并行推进而非顺序执行。

七项政策建议涵盖情报、研发、人员、供应链及演习

建议包括建立联合威胁情报基础设施、加速硬件安全研发、将政府人员安全实践扩展到前沿实验室、协调供应链安全、扩大红队与模型评估、定期联合危机演习、建立共同AI安全标准与保证框架。这些行动覆盖所有安全集群，形成持续反馈环路。

报告回答的关键问题

为什么前沿AI安全需要美英双边合作？

美英拥有长期的信号情报与网络安全合作基础，各自具备政府级的威胁情报、人员安全及物理设施保护能力。单靠任何一国或实验室难以应对国家行为者的持续攻击，双边合作可整合优势，降低行业合规成本，并率先建立可推广至西方联盟的安全标准。

当前AI安全实践存在哪些主要不足？

当前多数前沿实验室的安全措施仅针对网络罪犯和机会主义攻击，缺乏对国家级对手的防御能力，特别是对模型权重、算法知识产权等关键资产的保护不够，在威胁情报共享、硬件安全、供应链溯源及人员筛选方面存在系统性缺口。

五集群安全框架如何帮助提升AI安全？

该框架将安全控制按攻击路径分组，使实验室和政府能并行部署高风险区域的控制，避免按部就班的线性实施。每个集群对应特定的政府能力（如情报、反间谍），并允许根据威胁信号调整优先级，从而在不影响创新的前提下快速提升关键资产的安全层级。

美英政府具体有哪些可立即实施的行动建议？

报告提出七项优先行动：建立联合AI威胁情报基础设施、加速跨大西洋硬件安全研发、将政府人员筛选与反间谍支持扩展到前沿实验室、协调供应链安全与采购指南、扩大红队与模型评估合作、定期举办联合AI风险管理与危机演习、制定共同AI安全标准与保证框架。大部分可通过现有AISI-CAISI合作等渠道推进。

完整报告包含什么

  • 美英AI安全合作的历史背景与制度基础，包括技术繁荣谅解备忘录的签订与进展
  • 五集群安全框架的详细技术说明，每个集群的控制措施、攻击路径映射及实施优先序
  • 针对每个政策建议的深度分析，包括可行性评估、预期效果与潜在挑战
  • 附录：框架与七项建议的对应关系表，明确每条建议主攻哪些安全集群
  • 方法论部分：文献综述过程、专家访谈名单（匿名）及威胁建模方法
  • 完整参考文献列表，涵盖美英AI战略、实验室安全文件、学术研究及政府指南
  • 作者简介，包括RAND与牛津大学研究团队的专业背景

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告