川海智库

报告概述

本报告基于对300名IT和安全专业人士的调研，深入分析了企业在AI开发、部署和使用中面临的安全挑战与治理成熟度。报告覆盖AI采用趋势、安全治理、所有权与责任制、风险认知及技能缺口等核心议题，旨在帮助组织理解如何平衡AI创新与风险管控，并为安全团队、高管及治理决策者提供数据驱动的洞察。

报告的核心结论

AI治理是成熟度的关键倍增器

拥有正式AI治理的组织在采用代理式AI、培训员工使用AI安全工具以及保护AI系统的信心方面显著领先，其采用率是缺乏治理组织的2至3倍。治理成为区分AI采纳是否负责任的核心因素。

安全团队正成为AI的早期采用者

超过90%的组织正在测试或计划在安全领域使用AI，例如威胁检测、红队演练和访问控制。这标志着从过去技术周期中安全团队的滞后角色转变为先行者，AI安全不再是事后考虑。

LLM采用集中化，多模型策略成主流

组织平均使用2.6个模型，但部署高度集中于GPT、Gemini、Claude和LLaMA这四大提供商。多模型策略平衡创新与风险，但带来了供应商锁定和互操作性挑战。

高管热情高涨，但安全信心不足

70%的领导层对AI安全影响有中等至充分认知，但72%的受访者对自身组织保护AI的能力持中立或不自信态度。热情与能力之间的鸿沟需要加强治理和跨职能协作。

数据风险是首要关切，模型风险被低估

52%的组织将敏感数据暴露列为首要AI安全风险，50%提到合规挑战，但仅21%关注模型层面的风险（如数据投毒、提示注入）。组织多将AI安全视为现有隐私框架的延伸，忽视AI特有威胁。

报告回答的关键问题

为什么AI治理对安全至关重要？

调查数据显示，拥有正式AI治理的组织在安全能力上显著领先：采用代理式AI的可能性翻倍，培训员工使用AI安全工具的比例高出3倍，保护AI系统的信心也高出2倍。治理为负责任创新提供了基础，有效防范影子AI。

安全团队如何利用AI提升防护能力？

近半数组织已测试AI用于威胁检测、调查和响应，另有44%计划在一年内实施。此外，19%已在事件响应、红队演练中使用自主化代理AI。随着治理建立，安全团队使用AI的信心从25%跃升至54%。

企业采用大语言模型呈现什么趋势？

LLM采用已从实验转向企业级部署：54%使用公共前沿模型，47%使用供应商托管私有模型，44%采用自托管开源模型。但市场正快速向GPT、Gemini、Claude、LLaMA四家集中，企业平均使用2.6个模型，多模型策略成为平衡创新与风险的主流选择。

组织在AI安全中面临的最大挑战是什么？

排名前三的障碍是理解AI风险（61%）、技能缺口（53%）和员工知识不足（52%）。安全负责人最担心敏感数据泄露（52%），其次是合规挑战（16%）。模型级风险如提示注入和模型盗窃的关注度远低于数据风险，反映出安全认知的成熟度差距。

报告中的代表性数据

54%

组织采用LLM的比例

2025，使用公共前沿模型（如GPT-4、Claude、Gemini）的组织比例。

52%

最受关注的AI安全风险

2025，将敏感数据暴露列为首要AI安全风险的受访者比例。

53%

安全团队负责AI保护的组织比例

2025，由安全团队主要负责AI系统保护的受访者比例。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 完整市场数据与趋势图表：包括AI采用率、模型部署分布、安全工具投资等关键指标的直观可视化。
  • 研究模型与评价维度：采用CSA AI控制矩阵（AICM）和Google安全AI框架（SAIF）作为分析基础。
  • 服务商分层或厂商分析：对GPT、Gemini、Claude、LLaMA等主要LLM提供商市场集中度的深入评估。
  • 案例与方法：展示不同规模组织在AI安全治理中的实际做法与经验教训。
  • 预测与选型框架：给出未来12-18个月AI安全发展的预测，并提供构建治理体系的行动路径。
  • 全球受访者人口统计：按行业、公司规模、地区分布的300名IT和安全专业人士的详细画像。
  • 安全采用AI的具体用例：涵盖威胁检测、红队演练、访问控制等领域的采用数据与成功要素。
  • 风险与技能差距的深度分析：从数据泄露到模型篡改的风险优先级排序，以及培训覆盖率与效果评估。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告