川海智库

报告概述

本报告是《人工智能应用安全指引》系列通用文件，研究对象为人工智能应用的安全风险防范与管理。报告覆盖从前期规划、设计开发、验证确认、部署、运行监控、持续验证评估到退役下线的完整生命周期，并提出了人工智能应用安全的基本原则，包括造福人类、分级保护、全程覆盖、客观验证、动态调整和可管可控。报告为各行业领域组织提供了系统化的安全指引框架，帮助识别风险、确定安全等级、提升安全能力，适用于监管部门和第三方评估机构参考。

报告的核心结论

AI应用应坚持造福人类和以人为本原则

报告强调人工智能应用必须以造福人类、服务社会为导向，避免技术盲目应用，并确保人类对AI的最终控制权，在极端情况下可一键接管、关停或回退，保障生命财产安全。

需对AI应用进行全生命周期安全分级保护

报告要求根据安全风险识别结果，结合应用场景和智能化水平，将AI应用分为五级（低到特别重大），并据此匹配建设部署方和运行管理方的安全能力成熟度，实现资源精准配置。

AI应用安全需贯穿设计开发到退役下线全程

报告将AI应用过程划分为七个阶段，每个阶段均有具体安全指引，例如设计开发阶段需提升可解释性、公平性、鲁棒性等内生安全能力；退役下线阶段需安全处置算法、模型和数据，确保不可恢复。

不同部署环境需采取针对性安全措施

报告针对公有云、私有云、本地服务器和终端设备四类部署环境，分别提出了加密保护、访问控制、防火墙、终端数据不传出等差异化安全措施，并建议高敏感场景使用机密计算。

报告回答的关键问题

人工智能应用安全有哪些基本原则？

报告提出六项基本原则：造福人类与促进发展；识别风险与分级保护；提高能力覆盖全程；加强测评客观验证；面向变化动态调整；以人为本可管可控。这些原则指导AI应用全生命周期的安全实践。

如何对AI应用进行安全分级？

报告指出，应基于安全风险识别结果，结合应用场景安全属性和智能化水平，综合研判确定安全分级，分为低、一般、较大、重大、特别重大五个等级。分级结果决定所需的安全措施和各方安全能力成熟度要求。

AI应用退役下线时如何处理数据和模型？

报告要求退役下线前进行安全评估，制定方案并通知相关方。算法、模型文件、训练数据等必须安全处置确保无法恢复；用户数据和业务数据除合法留存外也需不可恢复删除，留存的需最小化并隔离保护。

AI应用部署在公有云时应注意哪些安全？

报告建议对传输和存储的数据加密，通过计算隔离的安全容器运行环境，支持操作审计与日志服务。在高敏感场景下，宜使用机密计算技术。同时需做好访问控制和权限管理。

完整报告包含什么

  • 完整术语表：包括人工智能、机器学习、深度学习、大模型、生成式人工智能服务、智能体等关键概念的定义。
  • 缩略语表：涵盖AI、API、BIOS、DDoS、MFA、SBOM、TEE等常见缩略语的全称和含义。
  • 人工智能应用过程详解：以附录形式描述前期规划、设计开发、验证确认、部署、运行监控、持续验证评估、退役下线七个阶段的详细流程和说明。
  • 相关角色说明：明确数据提供方、建设部署方、运行管理方、访问使用方四类主体在AI应用全过程中的职责和定位。
  • 其他相关安全要求：系统安全（等级保护）、个人信息保护、数据安全（分类分级、出境评估）、密码应用、关键信息基础设施安全等专项要求及参考标准。
  • 引用文件清单：列出本文件直接引用的国家和行业标准，如GB/T 45654-2025《生成式人工智能服务安全基本要求》、TC260-PG-20211A《人工智能伦理安全风险防范指引》等。
  • 参考文献：提供国内外AI安全相关法律、标准和研究文献，包括网络安全法、密码法、个人信息保护法等法律文件。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告