川海智库

报告概述

本报告由兰德公司（RAND Corporation）发布，聚焦全球围绕通用人工智能（AGI）的竞赛动态。报告将当前关于AGI发展的政策争论转化为一个数学中立的博弈论模型，以两个对称国家为基本分析单位，考察各国在“基准开发”与“加速开发”两种策略之间的选择。研究覆盖先行者优势、加速开发带来的全球性灾难风险、国际技术竞争中的集体行动困境，以及时间维度上的动态策略调整。报告在单次博弈模型基础上引入重复博弈、历史依赖与声誉机制，分析国际合作在何种条件下能够形成并保持稳定。通过把复杂权衡简化为关键参数，报告为政策制定者和公众理解AGI竞赛的地缘政治影响提供一个共同的分析框架，并帮助区分哪些风险来自技术本身、哪些风险可以通过国际协调加以化解。

报告的核心结论

先行者优势高于加速风险时，竞赛陷入囚徒困境。

报告通过博弈论模型发现，只要加速开发带来的预期收益大于其所伴随的全球灾难性风险，选择“加速”对每个国家而言都是占优策略。即使双方都清楚共同采取“基准”策略更有利，任何一方都不敢单方面放慢速度，担心对手会抢先获得决定性优势，结果形成相互加速的困境。

风险高于先行者优势时，国际合作可能成为稳定选择。

报告指出，在风险较高的情景下，“基准-基准”和“加速-加速”都可能成为纳什均衡，但共同基准能给双方带来更高收益。此时问题从囚徒困境转为协调问题，只要两国能够在开局时对齐预期，合作便可维持。双方若能共享对风险的判断并建立相互信任，就可以选择共同放缓开发速度以降低系统性风险。

基准策略的长期回报越高，AGI合作越容易维持。

报告在时间维度上扩展模型后认为，合作是否稳定取决于每轮未达成AGI时的中期投资回报。如果选择基准开发带来的长期回报明显高于加速开发的短期收益，且AGI短期内不会出现的概率较高，那么即使用“触发惩罚”策略也能吓阻背叛，使双方长期保持在合作路径上。

可靠的信息共享与核查机制是国际合作的前提。

报告强调，无论模型参数如何，只要一国认为对手将加速，它自己就有动力加速。在重复决策环境中，惩罚威胁要真正发挥作用，各国必须能够察觉对方是否违约。因此，建立共同知识、验证双方承诺的机制，是美中等竞争者在最关键时候避免失去合作机会的重要条件。

报告回答的关键问题

什么是AGI竞赛中的囚徒困境？

报告用囚徒困境描述AGI竞赛中最可能出现的竞争结构：当先行者优势超过加速开发带来的全球风险时，无论对方选择基准还是加速，每个国家的最优选择都是加速。结果双方都选择加速，虽然共同放缓对两方更好，但单方面放缓会让自己处于劣势。该困境源于集体行动问题，单靠一国无法摆脱。

通用人工智能竞赛为什么难以实现国际合作？

报告认为，阻碍合作的核心是激励结构与信息条件。先行者优势带来的标准制定权、市场准入、战略杠杆和军事优势，使各国担心被对手甩在身后；同时，缺乏验证对方是否真在放缓的机制，导致猜疑持续。只有当双方共同认为风险足够高，并建立可信的核查与信号机制，合作才可能稳定。

AGI加速开发有哪些全球性风险？

报告列举了四类主要风险：AGI被武器化或被非专业人士利用制造新型大规模杀伤性武器；失控或未对齐的AGI带来灾难性后果；大国之间因技术竞争出现不稳定并升级为冲突；以及对人类生存、繁荣和全球安全的其他威胁。这些风险不仅由加速方承担，而是由所有国家共同承担。

美国和中国在AGI竞赛中会怎样选择策略？

报告构建的博弈模型显示，美中两国的策略选择取决于双方对风险与收益的共同评估。如果两国都认为抢先获取AGI的收益高于风险，便会陷入相互加速的囚徒困境；如果形成风险高于收益的共同判断，则两国都有动力协调开发策略、共同降低风险。机制上能否核实承诺是合作能否落地的重要因素。

报告中的代表性数据

17.1万亿—25.6万亿美元

全球AI每年经济潜力估算

2023年（估算发布年份），该区间是报告为说明AGI相关经济回报之高而引用的全球AI年度经济潜力估算，并非本轮博弈模型的参数。具体方法学与口径以原研究报告和McKinsey来源为准。

约2000亿美元

全球AI年度私人投资预测

2023年预测（目标年份2025年），报告引用高盛2023年的预测，说明全球AI私人投资规模持续扩大，用以解释各国和科技公司面对抢先优势时为何有强烈加速开发AGI的动机。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 引言与背景分析：完整报告从科技公司与国家层面的AGI竞赛出发，介绍先行者优势的具体表现，包括标准影响、市场准入、地缘战略杠杆和军事优势，并梳理欧盟AI法案、美国出口管制、中美欧产业政策等近期治理动态，为博弈模型提供现实背景。
  • 既有研究综述：报告回顾了军备竞赛与安全困境理论，以及人工智能竞赛建模的前沿文献，包括Armstrong、Bostrom和Shulman的AI发展模型、Katzke和Futerman的全球AI治理联盟设想，以及关于奖励、惩罚、算力成本与信息结构如何影响合作的近期研究。
  • 正式博弈论模型：完整报告给出双国家、双策略（基准/加速）的单次博弈的数学定义、收益矩阵和期望收益推导，并说明模型假设，包括AGI必定被一个国家开发、加速开发提升先行概率、风险成本由两国共同承担等。
  • 囚徒困境与协调博弈两种世界：报告详细推导了(0.5-x)(A-B)与c的比较条件，说明在风险低于收益时出现囚徒困境、在风险高于收益时出现协调博弈，并解释了两种均衡状态下政府面临的完全不同战略问题。
  • 时间维度上的AGI竞赛：报告将单次博弈扩展为重复博弈，引入每轮AGI未出现时的投资回报参数，分析固定策略和“冷酷触发”策略下的合作条件，说明长期收益、耐心程度和背叛惩罚如何影响合作的可持续性。
  • 战略影响与政策启示：报告专门讨论美中两国在AGI竞赛中的动态，指出共同认知决定竞争或合作，并提出建立共同知识、信息共享和核查机制对于维持合作的关键作用，还援引核军控和《禁止生物武器公约》作为历史类比。
  • 局限性与未来研究方向：报告逐条列出模型简化假设，包括第二行动者优势、开发速度与风险的关系、国家间不对称收益、多行为者博弈、不完全信息、不同风险认知、概率随时间变化等，为后续研究提供清晰的扩展路线图。
  • 技术附录：附录部分对囚徒困境、协调博弈、胆小鬼博弈、帕累托最优博弈等博弈形式进行严格的数学定义，并推导各种均衡出现的不等式条件，还讨论了成本为负等不符合现实的极端情况，适合希望深入验证模型的读者。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告