川海智库

报告概述

本白皮书由华为云计算技术有限公司发布，系统阐述了AI时代安全架构的变革与建设路径。报告从AI业务趋势出发，分析了混合架构、公有云推理、模型后训练、数字员工智能体等场景下的新型安全挑战，提出了以“内生安全+安全产品+统一安全运营”为核心的AI安全解决方案框架。覆盖芯片、硬件、AI Infra、Agent Infra、模型、智能体及安全运营全层级，并给出混合云、医疗、智驾、代码智能体等典型场景的落地实践。旨在帮助企业构建面向AI基础设施的可信、可控、可观测的安全体系。

报告的核心结论

安全成为AI产业化发展的前置条件与底座能力

报告指出，AI技术的本质风险和风险内生性，使安全不再是附属成本，而是AI产业化发展的前提。安全必须与AI系统同构、同源、同生命周期，成为基础设施的核心底座能力，否则AI规模化落地将面临根本性阻碍。

安全核心目标从防入侵转向防失控与防认知颠覆

随着AI模型和智能体的自主性增强，安全风险从外部入侵转向全栈内生风险，如模型行为偏离、决策失准、权限越界等。因此，安全目标必须从封堵漏洞、抵御网络入侵，转向确保AI始终在人类设定的框架内运行，防范失控与认知颠覆。

AI时代需构建全栈内生免疫的安全系统

传统边界围墙防护已失效，因为数据在云边端流动，模型通过API开放调用，智能体跨系统执行任务。全新设计思路是将安全嵌入AI基础设施每一层，从芯片级可信计算到智能体身份与沙箱，构建全栈内生免疫的安全系统，实现安全与业务的深度融合。

智能体安全管控需覆盖Agent全生命周期

数字员工智能体具备自主感知、决策和执行能力，其行为失控风险剧增。报告强调应像管理员工一样，以识别智能体危险意图为基础，构建从创建、调度、通信到销毁的全生命周期安全能力，包括身份认证、权限控制、意图检测和执行审计。

报告回答的关键问题

AI时代企业安全架构需要如何变革？

报告指出，传统以隔离和边界防护为核心的集中式安全模式已无法适应AI的分布式、高动态环境。企业需要转向意图自治、观测管控、协同共治的分布式模式，中心负责制定安全规范准则，各节点在统一框架内自主治理并接受监督审计。

大模型后训练阶段存在哪些安全风险？

后训练微调使用的行业数据来源繁杂，易混入偏见、恶意投毒样本，造成数据污染。污染数据被模型内化后，会引发模型幻觉、输出偏差等概率性安全问题，导致模型不可控。报告建议通过数据脱敏、安全对齐、安全测评等措施实现内生安全。

如何防止智能体在生产环境中失控？

报告提出四层防护：绑定用户和智能体身份实现细粒度认证鉴权；按企业角色限定行为基线；部署内核级意图威胁检测，拦截高危操作并转人工审批；以及全流程审计溯源。通过这些机制确保智能体行为始终在可控范围内。

公有云推理场景下如何保护数据隐私？

报告推荐采用机密计算技术，在硬件可信执行环境（TEE）中处理推理任务，实现数据“可用不可见”。同时结合端到端加密、企业自持密钥（HYOK）和数据胶囊（离域自销毁）等技术，确保敏感数据在云端全生命周期内的机密性。

报告中的代表性数据

23019个漏洞，其中6202个高危或严重

AI模型扫描发现的漏洞数量

2026年5月，Anthropic发布的“玻璃翼计划”首月战报显示，Claude Mythos Preview模型扫描1000多个核心开源项目发现23019个漏洞，高危占比26.9%，截至报告发布时修复率不足1.6%。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • AI业务趋势分析：详细阐述混合架构、公有云推理、模型后训练、数字员工等六大趋势带来的安全挑战。
  • AI安全解决方案理念与总体框架：介绍从集中式到分布式的新安全范式，以及五大核心主张和全层级防护架构。
  • AI基础设施安全建设指南：涵盖软硬芯协同的信任链、全密态数据上云（HYOK、数据胶囊、机密推理）、纵深防御（身份、网络、应用、主机防线）等技术方案。
  • 模型安全建设指南：包括后训练内生对齐（数据处理、安全对齐、安全测评、模型保护）和运行时安全护栏（用户输入、上下文、RAG、工具调用、输出安全）。
  • 智能体安全建设指南：聚焦可信Agent基础设施（资产管理、沙箱、机密环境、审计）和防止失控机制（身份认证、角色限定、意图检测、熔断）。
  • 智能化安全运营：构建多智能体协同的AI安全运营中心，覆盖资产可视、威胁研判、策略生成及闭环处置。
  • 典型场景化应用：提供混合云智能体、医疗病理大模型、智驾训练、企业代码智能体、办公助手等5个落地案例及具体解决方案。
  • 未来展望：探讨AI安全向Security与Safety融合的范式演进，以及能力治理、算法边界、可解释AI等六大方向。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告