报告概述
本规范由中国网络安全产业联盟提出，旨在规定人工智能防火墙在传统防火墙基础上的新增安全技术要求。规范面向AI系统特有的安全风险，涵盖组网部署、网络层与应用层控制、攻击防护、自身安全、集中管理及性能保障等维度，适用于设计、开发、测试与部署环节。读者可了解AI防火墙与非AI防火墙的差异，以及应对大模型、智能体等新型威胁的技术框架。
报告的核心结论
人工智能防火墙需具备面向非人类身份（NHI）的识别与管控能力。
AI系统中存在智能体、工具、API等非人类调用者，传统防火墙无法识别此类身份。规范要求防火墙支持NHI的认证、动态授权和异常行为分析，确保只有合法实体能访问模型、算力等资源，防止越权或滥用。
应用层控制需覆盖大模型特有攻击如提示词注入和模型窃取。
规范要求防火墙在用户输入和模型输出阶段均进行安全检测，包括拦截提示词注入、敏感数据泄露、模型文件藏毒等。还要求支持多模态内容分析、第三方工具调用合法性检测，以及模型防破坏、防耗尽能力。
集中管理平台需实现AI安全策略的统一编排与多设备联动。
规范强调AI防火墙应能与综合管理平台对接，支持策略集中下发、版本管理、灰度回收，并接收动态处置指令实现全域封禁。这种集中管控能保障全网防护一致性，应对AI攻击的快速变化。
自身安全要求新增AI模型生命周期管理与算法安全边界。
除传统防火墙自身安全外，规范要求对AI模型加载、更新、回滚等操作进行管控，并设置模型推理行为的安全边界。同时强调算法决策需有人工审查机制，防止AI自主决策引发不可控风险。
报告回答的关键问题
什么是人工智能防火墙？与传统防火墙有何不同？
人工智能防火墙是在传统防火墙基础上，新增面向AI系统特有安全风险防护能力，并利用AI技术提升自身安全的产品。不同之处包括：能识别非人类身份（如智能体）、进行语义级攻击感知、对抗变种未知威胁、具备自主安全推理和策略自动化生成能力，并可监控智能计算资源调用。
大模型安全面临哪些主要威胁？防火墙如何防护？
大模型面临提示词注入、模型窃取、对抗样本攻击、敏感数据泄露、资源耗尽等威胁。防护措施包括：输入输出双向过滤、多模态恶意内容检测、模型文件完整性校验、API调用链路审计、基于token粒度的熔断机制，以及检测模型越狱、话题偏离等行为。
如何管控智能体对模型和工具的调用？
规范要求防火墙识别NHI身份，对工具调用实施黑白名单机制；支持MCP、A2P等协议解析，检测SQL注入、SSRF等攻击；对模型调用需动态授权，基于上下文评估信任等级，发放最小权限。同时记录调用日志联动分析，发现异常实时阻断。
AI防火墙的性能有哪些要求？
规范引用GB/T 20281-2020中6.3的性能要求，未单独新增。但要求防火墙在加密流量解析、高并发会话管理、低延迟推理等方面满足实际部署场景，同时具备基于token用量的动态负载均衡和跨模型故障切换能力。
完整报告包含什么
- 详细的安全功能要求：包括组网与部署（云、数据中心、园区场景）、网络层控制（包过滤、状态检测、加密流量解析等）以及应用层控制（用户管控、协议识别、内容过滤）。
- AI模型攻击防护专项要求：模型文件藏毒检测、漏洞防利用、防窃取、防破坏、防注入及防诱导，涵盖提示词注入、对抗样本、超大窗口攻击等场景。
- 工具调用与API攻击防护细则：第三方Skills/MCP Server安全扫描、恶意调用阻断、API滥用检测、影子API发现及SSRF防护。
- 安全审计与统计能力：支持智能体访问日志、算力用量统计、智能资产发现（模型、智能体、工具、知识库）以及攻击事件分类统计与路径溯源。
- 自身安全要求：身份标识与鉴别、管理审计、管理方式、安全支撑系统（安全启动、漏洞防护）、AI模型安全（完整性校验、对抗样本防御）、数据隐私保护及算法安全（人工审查、版本管理）。
- 集中管理要求：平台对接基础能力、设备集中运维、AI防护策略集中管控（策略编排、版本管理、灰度下发）以及安全联动协同（接收处置指令、联动EDR等）。
- 性能与安全保障要求：引用GB/T 20281-2020中性能和安全保障标准，确保产品在吞吐量、延迟、可靠性等方面达标。
- 附录A：人工智能防火墙组网部署场景示例，包含数据中心（通用计算、智能计算）和园区分支两大典型拓扑图，说明东西向流量防护方案。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
