川海智库

报告概述

本实践指南是针对人工智能应用安全的通用性指引文件，属于《人工智能应用安全指引》系列文件的通用部分，适用于各行业领域。报告以人工智能应用全生命周期为主线，系统规定了从前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估到退役下线共七个阶段的安全要求。同时提出了六大基本原则，包括造福人类、分级保护、全程覆盖、客观测评、动态调整和可管可控，为组织合规开展人工智能应用、防范安全风险提供了标准化框架和操作指引。

报告的核心结论

人工智能应用安全需贯彻全生命周期管理

报告将人工智能应用划分为前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线七个阶段，每个阶段均有明确的安全要求，形成从规划到退役的闭环管理，确保安全措施覆盖应用全过程。

安全分级与能力成熟度评估是精准治理的基础

报告要求根据风险识别结果对人工智能应用进行安全分级（低、一般、较大、重大、特别重大五级），并评估相关方的人工智能安全能力成熟度，确保能力等级不低于应用安全分级，实现资源合理配置。

以人为本、可管可控是核心原则

报告强调人类最终控制权归属，要求规划一键接管、版本回退、紧急关停等安全措施；在涉及人身安全的场景，鼓励建立无条件救济保障机制，确保人工智能应用不会脱离人类控制并造成不可逆伤害。

持续验证评估和动态调整是应对风险变化的关键

报告要求每年或在风险发生变化时开展安全测试与调整，发生重大风险事件或应用场景显著变化时需重新评估安全设计方案，必要时退回前期规划阶段，建立动态适应技术迭代和风险变化的调整机制。

报告回答的关键问题

人工智能应用安全如何分级？

报告参照我国人工智能应用安全分类分级国家标准，将安全风险从低到高分为低安全风险、一般安全风险、较大安全风险、重大安全风险、特别重大安全风险五级。分级依据包括应用场景安全属性、智能化水平以及识别的安全风险结果，用于指导后续安全措施的配置和资源投入。

生成式人工智能服务有哪些具体安全要求？

报告针对生成式人工智能服务提出了若干要求：在运行和监控阶段需对用户输入进行安全检测，确保生成内容合格率、准确性和可靠性；按要求做好生成合成内容标识；防范恶意输入攻击；建立应急预案和紧急关停能力；在涉及人身安全的场景，鼓励建立无条件救济保障措施。

部署人工智能系统时需要注意哪些安全问题？

报告根据部署环境不同提出差异化要求：公有云部署需加密传输和存储、使用计算隔离安全容器，高敏感场景推荐机密计算；私有云需做好数据分类分级和差异化权限控制；本地服务器需具备防火墙、入侵检测等安全组件和严格的访问控制；终端设备处理的数据原则上不传出设备，确需传输需用户同意并评估影响。

人工智能应用退役下线阶段如何保障安全？

报告要求退役下线前进行安全评估，制定工作方案并同步相关方；确保平稳停止，保障访问使用方完成迁移，避免骤停造成人身、财产或社会安全问题；安全处置算法、模型、训练数据等，确保不可恢复；对需留存的数据按照合法正当必要原则保留最小范围并隔离存储。

完整报告包含什么

  • 范围与规范性引用文件：明确本文件适用于各行业领域人工智能应用的安全风险防范与管理，为监管部门和第三方评估机构提供参考，并列出GB/T 25069、GB/T 42888等引用的国家标准和网络安全标准。
  • 术语及缩略语表：定义人工智能、大模型、生成式人工智能服务、智能体、对抗样本、数据投毒等核心术语，并列出AI、API、TEE、SBOM等缩略语的中英文全称。
  • 六大基本原则：详细阐述造福人类、分级保护、全程覆盖、客观测评、动态调整、可管可控六项原则，为后续安全指引提供顶层设计理念。
  • 全生命周期安全指引：分七个阶段逐项列出安全要求，包括前期规划中的伦理分析、风险识别、安全分级与成熟度评估；设计开发中的可解释性、鲁棒性、隐私保护等内生安全；验证确认中的安全测试方法与内容；部署阶段的环境适配措施等。
  • 附录A：引用文件清单：列出本文件直接引用的国家标准和网络安全标准实践指南，如GB/T 45654-2025《生成式人工智能服务安全基本要求》、TC260-PG-202515A《生成式人工智能服务安全应急响应指南》等。
  • 附录D：人工智能应用过程：以资料性附录形式图文说明各阶段的关键活动，包括如何从前期规划进入设计开发、验证确认阶段发现问题如何回退等流程细节。
  • 附录E：人工智能应用相关角色：界定数据提供方、建设部署方、运行管理方、访问使用方四类角色的职责和相互作用，帮助组织明确责任边界。
  • 附录F：其他相关安全要求情况：汇总等级保护、个人信息保护、数据安全、密码应用、关键信息基础设施等领域的现行法律与标准要求，提供跨领域合规参考。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告