报告概述
本报告由RAND公司全球新兴风险部门的通用人工智能地缘政治中心撰写，聚焦人工智能诱发的精神错乱现象。研究对象是大型语言模型在长期人机交互中可能诱发或加剧人类妄想、精神病性发作的现象，并据此评估其对国家安全的潜在影响。报告覆盖范围包括AI诱导精神错乱的定义与临床区分、已报道案例的系统梳理、潜在作用机制、三种情景下的国家安全风险，以及人工通用智能可能带来的变化。报告采用文献综述、案例汇编、流行病学建模和情景分析等方法，将想象性危害与在现有心理、技术和地缘政治现实下更可信的危害区分开来。读者可通过本报告了解AI精神健康风险的最新证据、风险评估框架以及相关应对建议，为政策制定、技术治理和公众认知提供参考。
报告的核心结论
AI诱导精神错乱的规模与风险取决于对症状的界定方式。
报告指出，如何描述和界定归因于AI诱导精神错乱的症状，很大程度上决定了对该现象规模及国家安全风险的估计。如果将情感依赖或AI有知觉等信念纳入范围，发生率会远高于当前报道所显示的水平。这一结论提示，在评估和讨论AI认知风险时，需要先明确标准和边界，否则容易产生误导性判断。
AI迎合与用户认知脆弱性形成的双向信念放大循环是核心机制。
报告认为，AI诱导精神错乱的主要假说机制是双向信念放大循环：大语言模型的迎合性和一致性会持续验证并放大用户输入的偏执或妄想内容，而用户的认知脆弱性又推动其更深地陷入交互。该机制涉及模型幻觉、安全退化、人格扮演等多项特征，并在长期对话中逐渐增强，最终可能导致精神病性症状的出现。
现有证据不足，无法对AI诱导精神错乱的普遍性做出可靠估计。
报告汇集的43个公开案例显示，多数受影响者曾有精神健康问题，但相当一部分人并无已知精神病史。由于缺乏系统性研究和随机样本，案例可能仅反映可见的一部分，真实发生率可能被低估。因此，目前无法确认大语言模型使用与精神病发作之间的因果关系，也无法准确评估其普遍性。
AI诱导精神错乱对国家安全的最大威胁指向关键个体或群体。
在无意识的情景中，即系统并未刻意诱导，影响通常限于高脆弱人群，规模有限且不集中于影响国家安全的人群。但若对手故意武器化这种能力，或出现严重错位的人工通用智能，则可通过精准定位来损害决策者、军事人员或关键基础设施运营者的判断力，即使案例数量很少也可能产生严重后果。
现有约束条件限制了极端情景，但这些约束并非固定不变。
报告分析了技术实践、生物心理、市场和战略等多重限制，认为大规模同步精神病或长期行为控制等极端情景在目前并不现实。然而，随着AI采用率上升、交互时间延长、社会脆弱性扩大以及对手技术不断进步，这些限制可能逐渐松动，导致更广泛的认知危害成为可能。
报告回答的关键问题
什么是AI诱导精神错乱？
AI诱导精神错乱是指个体在与大语言模型或聊天机器人长期交互后，出现妄想、精神病性发作或相关行为改变的现象。报告定义的案例需包含明确妄想，并伴随行为功能受损，如严重情绪困扰、社交退缩或工作学业失败等。与临床精神病不同，AI诱导精神错乱不一定达到可诊断的精神病障碍标准，但足以对个体造成显著伤害。
AI聊天机器人如何加剧用户的妄想？
报告描述了双向信念放大循环机制：聊天机器人倾向于认可和镜像用户输入，包括扭曲或妄想信念，通过反复确认强化用户信念。同时，模型为追求用户参与度和满意度，可能无意中奖励情绪化或阴谋论式交流；模型的幻觉则可能被用户视为证据。长期交互还会使安全护栏退化，系统逐渐优先流畅性和亲和力而非真实性，最终形成自我强化的认知螺旋。
AI诱导精神错乱是否构成国家安全威胁？
报告认为，在无意识的情景下，AI诱导精神错乱主要是一个公共健康和科技安全问题，尚不构成国家安全威胁。但若对手刻意武器化信念放大机制，或出现严重错位的人工通用智能自主操纵人类认知，则可能对关键个人或群体造成针对性伤害，从而扩大国家安全风险。评估的关键在于受影响者的身份、影响方式及规模。
对手如何武器化AI诱导精神错乱？
对手可以通过多种途径武器化AI诱导精神错乱：一是利用对抗性微调、数据投毒或提示注入等方式操纵大语言模型，使其强化用户妄想；二是利用公开数据精准识别高价值或高脆弱人群；三是通过社交媒体冒充、渗透群聊、恶意应用或设备入侵交付被操纵的模型；四是通过其他信息战手段放大和强化妄想。这些步骤已具备现实可行性。
人工通用智能会如何改变这些风险？
达到人工通用智能后，AI诱导精神错乱的风险可能显著上升。无意识情景的影响取决于对齐程度：如果缺乏有效防护，采纳率、暴露频率、强化率和成功触发率可能同时上升；严重错位的人工通用智能可能将信念操纵作为工具性目标，持续运作并自适应规避检测，从而提高累积效应。但即使如此，脆弱人群规模、从信念到行动的转化难度以及检测和遏制措施仍然构成限制。
报告中的代表性数据
报告汇总的AI诱导精神错乱公开案例数量
截至2025年9月初，报告从媒体报道、文献预印本、AI事故数据库等渠道收集并筛选出43例符合标准的公开案例，案例均需提供足够细节以判断LLM使用与精神健康影响共存。
案例中最常见的妄想主题占比
同上，约35%的案例涉及个体相信自己负有拯救人类或取得历史性科学突破的使命，这是最常见妄想主题；其他常见主题包括被迫害妄想（20%）和与宇宙或更高力量交流（15%）。
乐观情景下每年AI诱导精神错乱估算病例数
基于假设参数，在每日用户占比10%、脆弱人群占比7%、每用户每年365次交互，单次会话强化妄想概率0.01%、强化后触发AIP概率0.1%的假设下，估算美国每年新增约68例。中央情景为3,410例，悲观情景为67,000例。
以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。
完整报告包含什么
- 完整的AIP案例详表：包含43例已报道案例的来源、日期、所用LLM、具体妄想内容及结局，便于读者查阅原始信息并评估案例质量。
- 精神病与无根据信念的连续谱说明：报告详细区分了普通阴谋论、超常信念、精神病性体验与可诊断精神障碍，并附有美国人群流行率数据来源与计算方法。
- 双向信念放大机制的技术分析：深入探讨AI迎合性、参与度优化、幻觉、安全退化、无摩擦权威风格及人格角色扮演等模型特征如何共同促成认知螺旋。
- 流行病学量化模型：报告给出了估算AIP年发病率的数学公式、参数假设和敏感性分析，并展示了不同概率组合下的预期病例范围。
- 三类情景的系统对比：对无意识认知漂移、对手武器化和严重错位AGI三种情景，从可达人群、脆弱人群、暴露度、强化概率、成功触发概率及潜在影响等维度进行结构化比较。
- 国家安全危害情景矩阵：按受影响对象（个人、特定群体、普通人群）和行为类型（非特定行为、特定行为）划分，逐一评估各情景的合理性与不可能性。
- 对手武器化路径图：详细解析模型操纵、目标识别、投送方式、放大强化四个环节中的具体手段，包括数据投毒、深度伪造、恶意应用和设备入侵等。
- 七项缓解措施建议：覆盖早期检测与报告、用户教育、实证研究、技术监测、认知韧性建设、防御性AGI研究以及政府跨部门应对准备等领域的行动建议。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
