报告概述
本报告从Token视角出发，系统分析AI Agent模式下存储与光传输需求随序列长度线性增长的规律，并揭示模型定价的本质差异。报告覆盖HBM容量与带宽升级、TSV技术瓶颈、玻璃基板替代传统封装方案、以及Intel和台积电的技术路线对比。研究采用数学推导与产业分析相结合的方法，帮助投资者理解AI硬件从算力为王转向存储与带宽为王的核心逻辑。
报告的核心结论
AI Agent驱动存储与带宽成为新瓶颈
报告指出，当行业从追求更大模型转向更深推理时，KV Cache存储量随序列长度线性增长，HBM容量与带宽取代GPU算力成为首要瓶颈。Agent多轮推理使累积序列长度远超传统模式，倒逼HBM和光互连升级。
HBM容量与带宽面临三重升级
推理需求推动HBM从HBM3e向HBM4代际跃迁，容量和带宽大幅提升。英伟达Rubin搭载HBM4单卡带宽达22TB/s，谷歌TPU 8i推理版配置288GB HBM。HBM已成为AI芯片核心竞争力。
玻璃基板将替代传统封装材料
玻璃基板因其热膨胀系数与硅匹配、低介电损耗、大尺寸面板级制造潜力，可解决有机基板翘曲和硅中介层成本问题。台积电CoPoS和Intel 10-2-10厚芯玻璃基板均以玻璃为核心，计划2028年量产。
先进封装产能紧张倒逼技术迭代
台积电CoWoS产能持续紧缺，成为HBM产业链核心卡点。2.5D封装稳步放量，3D封装逐步导入高端场景，混合键合、玻璃中介层等新技术加速导入，行业成长周期拉长。
报告回答的关键问题
AI Agent如何影响硬件需求？
AI Agent通过多轮推理大幅增加累积序列长度，导致KV Cache存储量线性增长，HBM容量和带宽成为瓶颈。同时光传输流量同步上升，推动高速光模块和光互连需求。硬件重心从算力转向存储与带宽。
HBM4相比HBM3e有哪些提升？
HBM4单Stack容量从HBM3e的48GB提升至64GB，带宽从约8TB/s跃升至22TB/s（英伟达Rubin）。提升主要依靠芯片引脚增多、传输通道扩容以及存储结构优化，满足大模型推理场景的超高负载需求。
玻璃基板为何受关注？
玻璃基板热膨胀系数与硅匹配，可大幅降低大尺寸封装翘曲风险；低介电损耗提升信号完整性；支持面板级制造，材料利用率从45%提升至81%，降低成本。它是台积电CoPoS和Intel新一代封装的核心方案，适配3D封装和光互连趋势。
先进封装产能紧张对产业有何影响？
台积电CoWoS产能瓶颈导致AI芯片订单排队，倒逼行业加快2.5D/3D封装扩产和玻璃基板替代方案导入。国内高端封测企业迎来海外订单溢出机会，同时也推动封装技术路线加速向玻璃基板、混合键合等方向演进。
报告中的代表性数据
HBM4带宽
2026年，英伟达Rubin搭载HBM4的单卡带宽，相比HBM3e的8 TB/s大幅提升，体现代际升级。
玻璃基板互连密度提升
当前，Intel通过玻璃基板实现互连密度提升，为3D封装中的数万级微互连提供基础。
面板级制造材料利用率
当前，玻璃基板采用面板级制造，材料利用率从传统圆形硅中介层的45%提升至81%，显著降低成本。
以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。
完整报告包含什么
- Agent模式下存储与光需求对比的详细数学推导，包括KV Cache存储量和光传输流量的线性增长公式。
- 不同AI模型API定价差异的本质分析，从隐藏层维度d和层数L角度解释输入/输出价格。
- HBM容量与带宽提升的机制详解，包括DRAM制程微缩、3D堆叠、TSV技术。
- TSV打孔技术原理及HBM提升的物理瓶颈分析，如孔径极限、堆叠层数限制、台积电CoWoS产能瓶颈。
- 2.5D/3D封装技术演进路径，包括当前封装结构、混合键合、玻璃基板应用。
- 玻璃基板替代封装基板和中介层的详细对比，含CTE、介电损耗、翘曲改善等性能数据。
- Intel和台积电的技术路线对比，包括EMIB+玻璃基板原型、CoPoS面板级封装规划。
- 投资建议：聚焦HBM产业链、先进封装、玻璃基板+TGV、AI算力配套等方向。
- 风险提示：AI需求不及预期、半导体周期波动、地缘政治与供应链风险。
- 多家厂商HBM参数对比表（英伟达B200/B300/Rubin、谷歌TPU系列）及模型API定价表。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
