报告概述
本报告由清华大学战略与安全研究中心（CISS）于2026年3月发布，聚焦非国家行为体（恐怖组织、犯罪集团等）滥用前沿人工智能技术对国际安全带来的风险挑战。报告系统分析了滥用路径（包括网络攻击、虚假信息、CBRN、自主系统）、风险结构变化、开源与闭源模型之争，并从国家治理、国际合作、中美协调等维度提出规制建议。报告结合具体案例，如2024年莫斯科袭击事件后AI生成视频宣传、英国青年与聊天机器人互动激进化等，探讨了当前及近期的实际威胁。
报告的核心结论
非国家行为体滥用AI正从理论转向现实威胁
报告指出，前沿AI模型已在网络攻击、生物武器知识获取、虚假信息生成等场景被非国家行为体实际利用。例如，2024年莫斯科袭击后，伊斯兰国呼罗珊省利用AI生成新闻主播视频进行宣传；多起青少年暴力事件中，施暴者借助生成式AI撰写宣言。这些案例表明滥用不再是理论风险，而是可观察的现实。
AI赋能使恐怖组织获得准国家能力
报告认为，大语言模型开源化让恐怖组织以极低成本获得宣传、动员和策划能力，改变与主权国家的力量对比。例如，聊天机器人可充当虚拟招募者，提供定制化极端主义说辞；AI生成虚假信息可精准推送，加速形成信息茧房。这导致国家反恐防御成本上升，而攻击成本下降。
开源模型风险需分级缓释而非简单二元争论
报告强调，开源与闭源之争过于简化。开源模型风险源于高风险能力的快速扩散，而非开放本身。有效的风险缓释应基于能力评估的防护机制、分级发布实践以及生态系统层面的综合治理，例如对CBRN相关能力实施限制性发布，并建立国际规范。
中美合作是应对非国家行为体AI风险的必要条件
报告指出，中美在防范非国家行为体滥用AI方面有共同安全关切，且该议题政治敏感性相对较低。双方可在模型安全、危险应用红线划定、生物与网络风险等方面形成最低共识，并通过多边机制拓展，但需抓住关系缓和窗口期重启政府间对话。
报告回答的关键问题
非国家行为体如何利用大语言模型实施恐怖活动？
报告指出，恐怖组织通过大语言模型进行宣传生成（如AI虚拟主播）、意识形态渗透（如聊天机器人激进化）、行动策划（如开源情报分析）三类滥用。例如，2024年伊斯兰国呼罗珊省利用AI生成新闻视频宣传袭击；英国青年柴尔与AI聊天机器人交流后试图刺杀女王，显示聊天机器人可提供激进化动力。
开源AI模型是否会增加恐怖分子滥用风险？
报告认为，开源模型本身并非风险根源，但开源权重缺乏中央控制，易被移除安全护栏用于有害目的。例如，恐怖分子可在暗网获取去限制化模型，获得武器制造指导。有效的风险缓释需转向基于能力评估的分级发布、云平台监测及国际规范，而非简单禁止开源。
人工智能对国际安全治理机制造成哪些挑战？
报告指出，AI滥用挑战国际规范（责任划分滞后）、模糊责任链（多主体组合难问责）、淡化合作基础（假旗行动破坏信任）、加速逐底竞赛（各国为竞争放松约束）。例如，非国家行为体利用开源模型和黑市技术，使传统军控式监管难以适用，治理机制需转向适应性协同框架。
中美在人工智能安全领域有哪些合作基础？
报告分析，中美在防范非国家行为体滥用AI方面有共同挑战（网络攻击、生物安全、信息操纵），且该议题偏向技术治理，意识形态色彩较弱。2024年中美首次AI政府间对话曾启动，2025年元首会晤释放合作信号。合作可从特定高风险场景（如生物风险）切入，渐进式推进。
报告中的代表性数据
AI模型测试中可协助非专业用户开发生物武器
2025-2026年，多家人工智能公司发布新模型时，在部署前测试阶段无法完全排除模型显著协助新手开发生物武器的风险，因此增加额外安全防护机制。兰德公司2025年12月报告显示，三款2024年基础模型能够提供如何从商业合成DNA构建体中恢复活性脊髓灰质炎病毒的技术指导。
AI用于网络攻击的现实证据
2025-2026年，《2026年国际人工智能安全报告》指出，越来越多的证据显示AI系统已被用于现实世界的网络攻击，这是过去一年两项值得关注的发展之一。
以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。
完整报告包含什么
- 六位专家分别从不同角度撰写专题文章，包括鲁传颖分析非国家行为体滥用AI的国际安全风险、肖茜探讨前沿AI风险认知分歧、孙成昊聚焦恐怖分子滥用大语言模型、李强介绍中国国内治理实践、祁昊天讨论中美合作可行性、郑乐锋分析中美如何遏制风险。
- 详细阐述非国家行为体滥用AI的四种主要路径：网络攻击（降低DDoS攻击成本、实现自动化）、虚假信息与认知操控（深度伪造、精准推送）、化学生物放射核（CBRN）相关活动（降低知识门槛）、AI赋能自主/半自主系统。
- 分析开源与闭源模型之争，提出基于能力评估的发布决策、分级访问与有条件开放、生态系统层面安全防护等具体建议，并强调国际社会共识从'开源或闭源'转向'风险分级缓释'。
- 收录多个真实案例：2024年莫斯科袭击后伊斯兰国呼罗珊省AI视频宣传、英国青年柴尔与AI聊天机器人交互后刺杀女王未遂、多起青少年暴力事件中使用生成式AI撰写宣言等。
- 对中国治理实践进行系统性梳理：法律框架（《网络安全法》《数据安全法》等）、多元共治方法（政府监管、企业责任、行业自律、公众监督）、具体措施（风险测试评估、监测预警、内容标识、访问控制等）。
- 探讨中美在AI安全领域的合作基础与路径：重启政府间对话、将双边共识拓展至多边机制、在联合国框架下推动全球治理进程，以及应对'安全套利'问题的必要性。
- 介绍CISS人工智能项目背景，包括与美国布鲁金斯学会、瑞士人道主义对话中心等机构的二轨对话成果，以及相关国际项目合作。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
