报告概述
本报告运用博弈论框架，模拟中美两国在通往人工通用智能（AGI）道路上的战略互动。报告从单次囚徒困境出发，逐步引入奇迹武器、重复博弈、先发制人打击以及累积存在性风险等因素，分析不同情境下的均衡策略。报告旨在帮助决策者和公众理解AGI竞赛中的竞争与协作激励，为制定相关政策提供参考。
报告的核心结论
竞争性动态默认走向相互破坏而非合作
在简单的单次博弈中，中美两国的最优策略均为“破坏”（相互确保AI故障），尽管合作能带来更高集体收益。这意味着，若无信任建立措施或执行机制，主要AGI玩家在结构上倾向于竞争性、高摩擦策略，从而减慢整体进展并增加对抗风险。外交框架和验证机制对于激励转向合作至关重要。
技术突破会加剧竞争激励和战略不稳定
奇迹武器（AGI带来的决定性能力）的出现强化了原有均衡，使先发制人和追求垄断成为先动者的理性选择。一旦某方接近突破，突然的能力跃迁可能引发危机，因此AGI政策必须包括明确的使用规范、红线以及快速沟通渠道，以避免误判。
共享存在性风险可以促成合作
当模型明确纳入因AGI误用或扩散导致的累积性灾难风险时，双方都可能出于防止共同灾难的激励而合作。让AGI滥用的全球成本足够巨大且可信，可以使合作性不扩散自我执行：当灾难性后果足够严重时，每个参与方会自觉选择克制而非破坏，类似于核相互脆弱性约束了升级行为。
报告回答的关键问题
中美AGI竞赛为何会陷入相互破坏的困境？
报告通过单次囚徒困境博弈表明，尽管相互合作能带来更高收益，但由于AGI提供压倒性的先动优势，任何一方单方合作都会面临被对方破坏的风险。因此，“破坏”（相互确保AI故障）成为唯一的纳什均衡。这种结构性激励使得双方都有动机采取削弱对方的行动，即便集体收益更低。
奇迹武器如何影响AGI竞赛的战略稳定性？
奇迹武器代表AGI带来的决定性军事能力，其出现使一方获得压倒性优势。报告显示，拥有奇迹武器的一方会立刻使用它，而另一方则可能选择先发制人打击以避免被征服。这加剧了战略不稳定性，使竞赛更加危险。政策制定者需要为这种突然的能力跃迁制定危机管理方案。
在什么条件下中美可能在AGI领域合作？
报告第五个博弈模型显示，当考虑AGI误用或扩散导致的累积性灾难风险时，若该风险足够大以致可能毁灭双方，则双方会有激励合作以降低风险。合作带来的预期收益高于持续对抗（即使后者可能带来奇迹武器优势）。因此，让存在性风险变得可见且足够严重，可以促使双方采取合作性不扩散策略。
完整报告包含什么
- 五个逐步复杂的博弈模型，从单次囚徒困境到包含奇迹武器、重复博弈、先发制人打击及累积风险的合作不扩散模型，详细展示支付矩阵和均衡分析。
- 对现有中美AI竞争动态的解读，包括当前政策（如出口管制、人才流动）在博弈框架下的含义。
- 奇迹武器（Wonder Weapon）的概念定义及其对战略性稳定的影响分析。
- 先发制人打击（Preemptive Strike）选项的建模及其社会非合意性讨论。
- 基于存在性风险的合作不扩散路径，说明如何通过共同脆弱性激励合作。
- 政策含义总结：合作需要信任建立机制、危机沟通渠道，以及使全球AGI风险足够可见以促成自我执行的不扩散。
- 参考文献，涵盖博弈论、AI安全、地缘政治等领域的学术著作和政策报告。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
