川海智库

报告概述

本白皮书以“新质战斗力”方法论为核心，系统研究人工智能技术赋能网络安全的路径与实践。报告分析了“AI+”时代网络安全面临的风险与挑战，提出以AI技术为核心的“打防管控”一体化综合防御体系，详细阐述了小模型、大模型、垂域模型等在威胁检测、安全运营、数据安全等场景的应用，并收录了30余个行业智能化成果与案例，为关基运营者提升网络安全实战能力提供参考。

报告的核心结论

AI技术正重塑网络攻防格局，“以智制智”成为必然趋势。

报告指出，人工智能既是防御者最强大的盾，也能成为攻击者最锋利的矛。网络空间技术对抗将演变为攻击AI与防御AI之间的对抗，谁拥有更强大的AI工具、算力、数据和人才，谁就能把握网络空间安全主动权。

构建“新质战斗力”是应对AI时代网络安全挑战的关键。

报告提出网络安全新质战斗力的概念，强调以AI、量子、密码等新技术为核心，通过技术赋能、机制协同、生态共建，实现从被动响应到主动免疫的范式跃迁。具体包括构建“打防管控”一体化防御体系和网络空间技术对抗体系。

大模型自身安全风险成为关键基础设施安全防御的新重点。

大模型在广泛应用的同时，面临提示词注入、数据投毒、对抗攻击、模型幻觉等安全风险。报告强调必须开展大模型安全检测评估，建立AI安全监管体系，确保大模型在关键信息基础设施中的可靠应用。

人工智能与网络安全业务的深度融合正从“单点工具”走向“全流程智能化”。

报告指出，RAG、安全智能体、多模态模型等技术正深度融入安全运营、威胁狩猎、渗透测试等各个环节，推动安全运营从“人力密集型”向“AI驱动型”转型，实现告警降噪、自动研判、智能响应等能力的显著提升。

报告回答的关键问题

什么是“网络安全新质战斗力”？

报告由郭启全研究员提出，网络安全新质战斗力是以AI、量子、密码等新质技术为核心，通过技术赋能提升攻防双向能力，构建覆盖感知、分析、决策、执行、反馈闭环的动态防御体系，实现从被动防御向主动免疫的跃升。

AI在网络安全领域的主要应用场景有哪些？

报告详细梳理了AI在威胁检测、情报分析、漏洞挖掘、安全运营、攻击诱捕、数据安全治理等场景的应用。具体包括RAG增强的安全分析、多智能体协同的自动化渗透测试、大模型赋能的钓鱼邮件溯源、AI驱动的数据分类分级等。

大模型自身存在哪些主要安全风险？

报告列举了提示词注入与越狱攻击、数据投毒与供应链攻击、模型翻转与数据泄露、对抗性攻击与模型欺骗等风险，并指出大模型的“黑箱”特性和依赖海量训练数据的特点放大了这些威胁。

如何应对AI驱动的网络犯罪升级？

报告提出需要构建“预防-打击-震慑”全链条治理机制，包括：加强AI安全教育和意识培训、建立AI威胁情报共享和应急响应机制、利用AI技术反制深度伪造和自动化攻击、完善相关法律法规和跨境协作。

报告中的代表性数据

1.2万亿元

我国人工智能核心产业规模

截至2025年4月，报告指出，我国人工智能核心产业规模已突破1.2万亿元，企业数量超过21.4万家，累计培育国家级专精特新“小巨人”企业400余家。

27.63万台

中国工业机器人年度安装量

2024年（国际机器人联合会报告），报告引用的数据表明，中国工业机器人年安装量占全球总量的51%，连续十一年位居世界最大工业机器人市场，体现AI在工业领域的广泛应用。

3000%

深度伪造欺诈年增长

2023年（奇安信数据），报告引用奇安信数据，显示基于AI的深度伪造欺诈在2023年增长了3000%，基于AI生成的钓鱼邮件增长了1000%，表明AI驱动的网络犯罪呈爆发式增长。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 第一章“AI+”时代人工智能技术：分析AI技术演进、应用与全球治理，探讨我国AI发展与治理体系。
  • 第二章“AI+”时代网络安全面临的风险与应对之策：系统梳理AI带来的8类主要风险（如网络犯罪升级、大模型漏洞等），并提出8项应对策略，包括构建新质战斗力、完善技术对抗体系等。
  • 第三章人工智能技术在网络安全领域的发展和应用：深入解析小模型、大模型、垂域模型、RAG、MCP、多模态模型、安全智能体等技术在安全领域的应用原理与架构。
  • 第四章人工智能支撑网络安全综合防御能力：分别从平时和战时20项技术对抗能力、新型安全管理体系、新型技术体系（分析识别、检测评估、安全保护、数据安全、供应链安全）等维度详细阐述AI赋能方案。
  • 第五章AI+ 网络安全产品与服务：涵盖基础网络安全（智能问答、钓鱼分析、态势监测、代码逆向、勒索识别、漏洞挖掘、渗透测试、攻击面管理、加密流量检测等11个场景）、数据安全治理、内容安全治理、业务应用安全、安全服务等5大类33个具体产品/服务场景。
  • 第六章网络安全智能化成果与案例：收录中国联通、中国移动、蚂蚁集团、绿盟、奇安信、360、迪普科技、知道创宇等27个企业实践案例，涉及安全运营、数据安全、大模型治理、智能负载均衡等多个领域。
  • 附件包含联盟介绍与会员服务信息。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告