川海智库

报告概述

本报告呈现了RAND Europe、英国AI安全研究所和Mila-魁北克AI研究所联合开发的一系列桌面推演的设计、执行与发现。推演旨在帮助欧洲及全球决策者务实应对2026年国际AI安全报告中识别的AI滥用与故障风险。报告聚焦于犯罪者利用AI能力开展大规模网络攻击的场景，采用RAND的“Day After”方法论，将高级官员置于模拟的AI驱动网络危机中，要求他们制定政策应对。报告覆盖了在柏林、海牙和巴黎三地进行的推演，深入分析了参与者在面对AI辅助网络攻击时的决策难点、治理缺口以及优先应对措施。该报告的价值在于将抽象的风险评估转化为具体的政策准备行动，为政府规划AI安全预案提供实证依据。

报告的核心结论

AI危机响应存在明显的证据缺口与协调挑战

推演显示，政府在危机中难以快速获取可靠的AI能力和风险证据，且跨机构协调困难。参与者普遍认为，缺乏预先设定的AI事件升级阈值、独立的技术评估能力以及开发者与政府之间的结构化信息流，严重制约了有效响应。

国家AI冠军企业与政府的复杂关系影响危机治理

当涉事AI公司曾是政府公开支持的国家冠军时，参与者对于是否采取强硬措施意见分裂。一方面，政府需承担连带责任；另一方面，压制国内领先企业将损害技术主权和竞争力。这种两难凸显了在危机前明确政企关系与监管框架的必要性。

开放权重模型的治理是核心难题

推演中引入不受约束的开放权重模型后，国内执法几乎失效，因为模型可被任意下载和修改。参与者认为解决之道在于供给侧治理，即从模型开发和发布环节入手，而非依赖需求侧分散的执法，并需要快速激活多边合作。

预先设定AI事件升级阈值至关重要

缺乏明确的AI危机界定标准导致参与者花费大量时间争论当前事件是否为国家级危机而非正常操作问题。参与者建议将传统量化指标（如财务损失）与AI特有的自主攻击能力结合，建立可操作的触发条件。

国际合作框架必须能快速激活

参与者一致认为单边行动无法应对跨国AI威胁，但现有外交机制（如联合国）响应过慢。他们呼吁建立预先社会化、可在危机中立即激活的多边响应协议，并优先通过AISI网络等信任网络分享威胁情报。

报告回答的关键问题

AI如何被用于网络犯罪？

报告通过推演场景展示，犯罪者利用前沿AI模型（如FlowGPT）实现自动化漏洞分析、大规模个性化钓鱼攻击以及新型恶意软件生成。通过对抗性提示和代理式部署，AI可自主规划并执行多步骤攻击链，速度远超传统防御体系，尤其针对中小企业和公共部门造成冲击。

政府如何应对AI滥用危机？

报告指出政府需要建立多项能力：预先设定AI事件升级阈值以快速判定危机级别；加大投资独立技术评估能力以验证开发者声明；建立强制性信息披露规则，利用公共资金作为杠杆要求AI公司共享风险数据；同时发展校准的危机沟通策略，向受影响最严重的机构提供具体行动指引。

开放权重模型带来哪些风险？

报告强调，开放权重模型扩散后，开发者不再能监控使用或更新防护措施，导致国内执法失效。推演中，克隆的开放权重模型（PieAI）消除了政府对原始开发者的治理杠杆，使恶意使用规模急剧扩大。治理应聚焦供给侧，即在模型发布前评估并施加限制，而非仅靠事后追责。

什么是AI危机升级阈值？

推演中参与者对此存在分歧：一派主张使用传统量化指标（如财务损失、基础设施停机时间），另一派认为AI自主代理系统的部署本身就应触发特殊状态。报告建议结合两者，提前定义触发条件，否则危机中官员将忙于界定问题而非制定应对方案。

AI安全桌面推演如何帮助政策制定？

这类推演通过将2026年国际AI安全报告中的科学风险评估转化为可操作的危机场景，让高级官员在模拟环境中测试决策。它揭示了制度盲点、治理缺口和紧迫的能力建设需求，使抽象风险变得具体可行，为现实世界的政策准备提供直接参考。

报告中的代表性数据

约55人

推演参与官员总数

2026年3月-4月，三次推演分别在柏林（约20人）、海牙（约20人）和巴黎（约15人）举行，参与者为高级政府官员和多边机构代表。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 完整的推演场景设计：详细说明如何基于2026年国际AI安全报告构建危机情景，包括FlowGPT模型特征、犯罪手段及两次转折的结构。
  • 分国别的推演执行情况：按柏林、海牙、巴黎三次会议分别记录参与者构成、讨论焦点和决策差异，并分析本地化调整的影响。
  • 七个关键讨论主题的深入分析：包括危机阈值定义、国家冠军企业关系、评估缺口、开放权重模型治理、关键基础设施防护、危机作为催化剂以及盟友合作。
  • 六项优先投资能力清单：升级阈值、网络防御强化、国家技术能力建设、危机沟通策略、多边治理、政企信息流——每项附有具体建议和辩论观点。
  • 方法论局限性讨论：承认两小时模拟无法完全还原真实危机压力，样本量小且局限于欧洲语境，需进一步拓展地理和主题范围。
  • 完整的推演观察笔记和引用文献：包括RAND“Day After”方法论原始文献、国际AI安全报告、相关AI政策文件等，便于研究者回溯和验证。
  • 未来工作方向：计划在亚洲等地区重复推演，设计更侧重技术主权和地缘政治的情景，并测试分阶段访问机制在压力下的表现。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告