Developing a Risk-Scoring Tool for Artificial Intelligence–Enabled Biological Design

RAND Corporation2026-03-0879 页

人工智能/ChatGPT/AIGC/生成式AI AI生物安全生物设计风险评分人工智能病毒工程双用途研究生物风险评估

报告概述

本报告聚焦于人工智能（AI）与生物学融合所带来的双重用途风险，特别是AI赋能生物设计可能被滥用于修改病毒病原体。报告识别了五个关键可修改生物学功能：宿主范围或趋向性改变、基因组复制增强、免疫或医疗对策逃逸、环境稳定性增强以及传播动力学增强。为此，报告开发了一个双轴风险评分工具：生物学修改风险评分系统评估修改这些功能可能造成的后果，行为体能力评分系统评估执行修改所需的知识、设施和人力。该工具旨在为AI赋能生物设计研究提供一个更稳健的决策框架，帮助识别风险，同时不阻碍负责任的生物技术创新。

报告的核心结论

AI工具可降低非国家行为体修改病毒功能的技术门槛

报告认为，随着AI工具（如生物学工具）和设备的进步与普及，修改关键病毒功能所需的技术技能将随时间降低。通过行为体能力评分系统，报告评估了不同教育背景和职业阶段的行为体在有无AI辅助下完成研究的能力，发现AI可以显著提升较低技能行为体的知识水平，使其跨越能力阈值。

五个关键可修改病毒功能是评估AI生物设计风险的核心

报告基于历史双用途研究关注和新兴AI风险，确定了宿主范围改变、基因组复制增强、免疫/医疗对策逃逸、环境稳定性增强和传播动力学增强五个功能。这些功能在病毒生命周期中作用明确、可实验测量，且易被滥用。报告为每个功能设计了风险因素和指标，用于系统评估修改后果的严重性。

风险评分工具需结合专家判断，并存在固有主观性

报告强调评分过程依赖专家共识，指标分数（0、0.5、1）是名义性的，代表低、中、高严重程度，并非精确量化。未来需要扩大研究范围、引入更多专家并开发权重机制，以提高工具的外部效度和可靠性。评分阈值也需进一步通过实证或共识确定。

该工具可为AI生物设计红线提供基础，但需谨慎实施

报告探讨了通过联邦指南、政府战略、立法、财政激励或联邦资助要求等方式实施红线的选项。每个选项都有优势和挑战，例如立法虽具法律强制力但可能因技术快速发展而过时。报告建议结合多种方式，并建立信息危害审查机制，以平衡安全与创新。

报告回答的关键问题

AI如何降低病毒工程设计的技术门槛？

报告通过行为体能力评分系统量化了AI的“提升”作用。在评估的十项案例研究中，AI工具（如大语言模型和生物学工具）提高了低技能行为体（如博士生）的知识水平，使其在某些实验中达到能力阈值。例如，在宿主范围改变研究中，AI使博士生从“可能具备知识”变为“具备足够知识”，从而降低了非国家行为体实施高风险修改的技术门槛。

哪些病毒功能最容易被AI修改且风险最高？

报告识别了五个关键功能，并通过风险评分与行为体能力评分的组合分析，将案例研究分类在不同风险象限。例如，环境稳定性增强研究（如Powell 2000和Linster 2014）表现出较高的生物学修改风险（传播潜力、宿主范围扩大）和相对较低的行为体能力要求（博士后即可完成），因此被评估为风险较高的研究类型。免疫逃逸研究则通常需要更高级别专家，风险相对较低。