川海智库

报告概述

本报告为申万宏源研究发布的GenAI系列报告之65，聚焦AI Infra（人工智能基础设施）软件在应用渗透下的投资机会。报告研究对象为AI模型训练与推理所需的底层软件系统，覆盖算力调度、数据管理（向量数据库、OLTP/OLAP数据库）等核心环节。报告分析了生成式AI对Infra软件的影响，包括数据结构从“分析优先”转向“实时运营+分析协同”，以及GPU成为数据控制中心带来的技术升级。报告通过国内外厂商案例（如MongoDB、Snowflake、Databricks、华为、阿里等）和敏感性分析，为投资者揭示了AI Infra软件的商业机会与竞争格局。

报告的核心结论

算力调度能力是模型推理盈利水平的核心变量

报告指出，国内模型Token收费显著低于海外，成本敏感度更高。通过算力调度软件（如阿里Aegaeon、华为Flex:ai）可大幅提升GPU利用率，从而改善推理服务毛利率。测算表明，在单日10亿查询量下，若使用H800芯片，单卡吞吐能力每提升10%，毛利率可提升2-7个百分点。

数据类Infra先于应用爆发，向量数据库成刚需

RAG技术渗透率快速提升，Gartner预测2025年企业采用率将达68%。向量数据库作为RAG核心组件，支撑海量数据毫秒级检索，市场需求持续高增。报告认为，AI应用推理渗透的影响率先作用在数据层，向量数据库成为不可或缺的AI基础设施。

OLTP+NoSQL数据库再风靡，契合AI实时需求

AI时代数据结构从“分析优先”转向“实时运营+分析协同”，Agent强化了对高实时性数据的需求。OLTP数据库擅长高频、小批量、低延迟的实时事务处理，叠加NoSQL对非结构化数据的天然适配，使得MongoDB等厂商收入增速出现拐点。

GPU成为数据控制中心，存储与数据库技术需升级

NVIDIA提出SCADA方案实现GPU直连SSD，IO延迟降至微秒级。向量数据库需适配GPU并行计算，通过列式存储、算子重写等技术升级，匹配AI实时推理需求。报告认为，存储IO正从“幕后支撑”变成“性能命脉”。

报告回答的关键问题

AI Infra软件包含哪些核心环节？

AI Infra软件主要包含算力管理层、模型管理层和应用管理层三类。算力管理层提供计算、存储、网络等基础资源服务，2024年市场份额达64.6%；模型管理层涵盖数据治理、模型部署、训练推理等工具；应用管理层提供资源管理、运维等运营能力。目前应用管理层占比持续提升，反映AI应用正从探索走向深度集成。

为什么算力调度是模型推理盈利的关键？

国内模型定价低、成本敏感，算力调度软件通过精细化资源分配（如token级调度、异构算力池化）显著提升GPU利用率，降低推理成本。例如阿里Aegaeon可减少82% GPU用量，华为Flex:ai提升30%算力利用率。报告测算，单卡吞吐每提升10%，毛利率可提升2-7个百分点，直接影响厂商盈利水平。

向量数据库为何成为AI应用刚需？

大模型存在幻觉问题，企业需RAG技术注入私有知识。向量数据库能高效存储和检索向量化数据，支持毫秒级语义搜索，是RAG系统的核心组件。Gartner预测2025年企业RAG采用率将达68%，推动向量数据库需求爆发。MongoDB通过收购Voyage AI，将嵌入和检索能力内嵌，实现数据存储+AI检索一体化。

MongoDB如何受益于AI应用渗透？

MongoDB作为文档型NoSQL数据库，天然适配非结构化数据和高频实时CRUD操作，契合AI原生应用与Agent需求。其低门槛、高弹性的特性吸引中小客户低成本落地AI。FY26Q3核心产品收入增速30%，通过收购Voyage AI补齐向量检索能力，并推出AMP平台帮助迁移，向全栈数据平台迈进。

报告中的代表性数据

82%

阿里Aegaeon通过Token级调度减少GPU用量

2025，阿里Aegaeon将10个模型所需GPU数量从1192个减至213个，资源节约率达82%，体现算力调度软件对提升推理效率的显著作用。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 完整报告包含AI Infra核心环节的详细定义与市场结构分析，包括算力层、存储层、网络层、软件与中间件层、运维与管理层。
  • 报告提供了海外AI软件公司（Snowflake、MongoDB、DataDog等）的季度收入增速对比表，并划分了2C AI应用、AI Infra软件、2B AI应用三类。
  • 深度分析了国内模型Token定价低于海外的现状，并列出DeepSeek、Kimi、阿里、百度等厂商的具体价格表，揭示成本敏感性。
  • 详细介绍了华为Flex:ai、阿里Aegaeon、英伟达Run:ai等算力调度平台的技术原理与实际效果，包括Flex:ai的芯片级切分和Aegaeon的token级调度。
  • 提供了推理服务毛利率与芯片单卡吞吐的敏感性分析表，包含详细的收入假设和计算过程。
  • 对向量数据库进行了分类梳理，包括开源（Milvus、Weaviate等）、商业SaaS（Pinecone等）及传统数据库的向量扩展，并对比各自特点。
  • 全面分析了MongoDB、Snowflake、Databricks三家公司的产品、商业模式、客户定位和财务数据，包含大量图表（收入增速、毛利率、NRR、客户数等）。
  • 探讨了NVIDIA SCADA方案对存储和向量数据库技术架构的影响，包括GPU直连SSD的硬件设计和向量数据库的改造方向。
  • 国内部分聚焦达梦数据、英方软件、深信服，分析了它们在AI时代的本地部署特色和产品布局。
  • 报告末尾附有重点公司估值表（达梦数据、深信服、Snowflake、MongoDB）和风险提示（商业化、生态竞争、技术迭代等）。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告