报告概述

报告以AI推理驱动存储需求为核心,分析存储产业链各环节的发展机遇。研究对象包括AI服务器中的HBM、DRAM、SSD、HDD等存储介质,以及eSSD、MRDIMM、SPD&VPD芯片、CXL互连芯片等细分领域。报告覆盖从存储介质性能分层到具体技术应用,采用需求测算模型和市场预测方法,为投资者提供AI存储产业的投资线索。

报告的核心结论

推理是AI存储增长的核心驱动力

报告指出,随着AI推理需求快速增长,尤其是超长上下文和多模态推理,内存和SSD需求激增。推理过程中,大量数据需临时存储和处理,推动高带宽内存和企业级SSD需求持续攀升,预计未来整体存储需求将增长至数百EB级别。

eSSD在AI服务器和存储服务器中空间广阔

报告测算显示,AI服务器用eSSD市场空间从2024年的59EB增长至2026年的120EB;存储服务器用eSSD增速更快,2024-2030年CAGR达54%,成为主要增量来源。长上下文推理、RAG数据库及tokens规模增长驱动高带宽、大容量eSSD需求持续增强。

MRDIMM对大模型推理提供确定性增益

MRDIMM Gen2在AI负载下带宽较DDR5 RDIMM提升2.3倍,支持更长上下文和更高并发,端到端时延更低。其高带宽与大容量适配CPU侧KV Cache卸载,可缓解GPU显存压力,优化资源利用,预计将在大模型推理中广泛应用。

CXL存储池化显著降低AI推理TCO

CXL 3.1通过内存池化与扩展,将部分KV Cache从GPU显存卸载至CXL设备,在不增加GPU成本前提下扩大有效容量。以字节跳动为例,KV Cache卸载至CXL可使batch size提高30%、GPU需求降低87%,形成明显TCO优势。

报告回答的关键问题

AI推理如何驱动存储需求增长?

AI推理过程中,超长上下文和多模态推理需要处理大量序列数据,高带宽与大容量内存可降低访问延迟;同时,推理产生的tokens需长期保存,SSD和HDD作为存储载体,需求随tokens规模爆发式增长。报告测算,2026年10个谷歌级推理应用所需存储容量达49EB。

MRDIMM对AI推理有什么价值?

MRDIMM通过提升内存带宽和容量,在大模型推理的KV Cache场景中提供确定性增益。它支持更高并发、更长上下文和更低时延,并优化CPU-GPU内存编排,从而提升推理吞吐和资源利用率。例如,MRDIMM Gen2带宽相对DDR5 RDIMM提升2.3倍。

CXL存储池化如何降低TCO?

CXL存储池化将KV Cache从昂贵的GPU显存卸载至CXL设备,扩大有效内存容量至TB级,同时维持低时延访问。通过冷热分层管理,热点数据驻留高速内存,温冷数据迁移至CXL池,显著降低GPU需求。以DeepSeek模型为例,单路CPU加CXL扩展较双路CPU在吞吐持平下减少处理器数量,降低成本。

报告中的代表性数据

49 EB

AI推理存储需求

2026年,基于2025年谷歌月处理超980万亿tokens,假设全球10个类似推理应用,测算2026年所需存储容量为49EB,存储格式为FP16。

120 EB

AI服务器用eSSD市场空间

2026年,基于单GPU对应2个4TB SSD卡槽的满配假设,测算2026年AI服务器用eSSD需求量为120EB,反映理论最大值。

54%

存储服务器用eSSD CAGR

2024-2030年,报告假设存储服务器用eSSD出货量2024-2030年复合增长率达54%,2030年市场规模达614EB,为最大增量来源。

以上数据根据报告摘要整理,具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 包含AI服务器存储架构图,展示HBM、DRAM、SSD、HDD的分层存储设计及性能容量对比。
  • 提供基于tokens增长模型的存储需求测算表,预测2025-2029年全球推理存储需求从2EB增长至55367EB。
  • 详细分析eSSD市场规模,按AI服务器、通用服务器、存储服务器分领域预测2024-2030年出货量及CAGR。
  • 介绍MRDIMM技术原理及与DDR5 RDIMM的性能对比,包含带宽提升数据和KV Cache场景测试结果。
  • 阐述SPD芯片在DDR5时代的升级细节,包括容量翻倍、集成I3C Hub及PMIC配置,并分析市场空间。
  • 说明VPD EEPROM在SSD中的应用,涵盖信息类型、技术升级趋势及价值量提升逻辑。
  • 深入解析CXL存储池化技术,包含CXL 3.1协议特性、KV Cache卸载案例及TCO优势数据。
  • 列出重点上市公司估值表,覆盖澜起科技、聚辰股份、兆易创新等标的的EPS和PE预测。
  • 提供英伟达、阿里云等厂商在CXL领域的布局案例,包括Enfabrica收购、PolarDB服务器架构。
  • 包含投资建议和风险提示,涉及AI产业发展、服务器出货量及国产厂商进展等不确定性。

本页内容由川海智库整理,用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限,部分观点、数据、统计口径或表述可能存在偏差,具体内容请以完整报告原文为准。

相关报告