报告概述
本报告通过拆解AI数据中心服务器的硬件栈，系统性地分析了驱动AI基础设施的各类半导体芯片。研究对象包括逻辑芯片（AI加速器、CPU、DPU等）、存储芯片（HBM、DRAM、NAND）以及模拟和基础芯片（电源管理、信号调理等）。报告覆盖从单个晶粒到服务器机架的全层级，揭示了每个托盘（计算、互连、电源、网络、冷却）中的半导体内容及其价值分布。采用由内而外的视角，不仅展示芯片如何协同执行AI训练工作流，还量化了半导体在AI数据中心资本支出中的占比。读者可借此理解整个半导体生态系统如何支撑AI发展，以及供应链中的关键依赖与机遇。
报告的核心结论
半导体是AI基础设施的核心使能技术，占AI服务器价值95%以上。
报告指出，单个AI服务器机架包含超过4,500颗封装芯片，半导体在建设及运营AI数据中心所需总资本支出中占比超过50%。这些芯片包括逻辑、存储、模拟及分立器件，共同提供计算、存储、电力分配和网络能力，任何环节的缺失都可能阻碍AI建设。
AI需求将持续驱动半导体市场爆发式增长，预计2028年收入超1.2万亿美元。
全球AI数据中心基础设施投资在2028年前将超4万亿美元，其中半导体支出高达2.8万亿美元。AI数据中心半导体收入预计从2022年到2028年复合年增长率达88.8%，2025-2028年虽放缓至56.3%，但绝对规模仍将接近十倍增长。
AI需要全谱半导体技术，而不仅限于高端AI加速器。
除先进的逻辑芯片（如GPU、ASIC、FPGA）外，高带宽存储（HBM）、电源管理芯片、信号调理芯片、网络芯片等同样至关重要。这些芯片覆盖从先进工艺到成熟节点的广泛技术，任何关键依赖都可能成为瓶颈。
推理工作负载将超越训练，成为AI芯片需求的主要驱动力。
报告指出，随着生成式AI普及和边缘AI兴起，推理计算需求快速增长。行业预测推理将以122%的复合年增长率增长（2023-2028），而训练仅为30%，推理市场份额可能从2024年的20%升至2032年的80%，推动针对延迟和能效优化的专用芯片发展。
报告回答的关键问题
AI数据中心服务器机架包含哪些类型的芯片？
AI服务器机架由计算托盘、加速器互连托盘、电源托盘、网络与IPMI托盘和冷却液分配单元托盘组成。每个托盘内集成多种半导体：计算托盘包含AI加速器、CPU、HBM、DRAM、SSD、DPU、NIC等；互连托盘有交换机ASIC和ACC芯片；电源托盘含PSU、PMIC、GaN晶体管等；网络托盘含BMC、OOB/IB交换机、TPM；冷却托盘含传感器和MCU。总芯片数超4,500颗。
AI训练和推理对芯片需求有何不同？
AI训练需要极高的并行计算能力和存储器带宽，依赖大量AI加速器与HBM配合，在间歇性高强度运行。推理则更注重吞吐量、低延迟和能效，且部署场景多样（云端或边缘）。推理芯片趋向于专用化设计，如低功耗NPU或定制ASIC。随着模型优化，训练需求增速放缓，推理需求将主导未来增长。
半导体供应链在AI数据中心建设中扮演什么角色？
供应链涵盖从EDA设计、晶圆制造、封装测试到系统集成的全球网络。关键环节集中在台湾、韩国、美国等地。先进封装（如2.5D/3D）和化合物半导体（GaN、SiC）成为新重点。供应链的弹性直接影响AI基础设施建设速度，任何环节的受限都可能延宕部署。
AI数据中心的资本支出中半导体占多少？
报告显示，在典型的AI数据中心中，计算基础设施占资本支出的50%以上。一个AI服务器机架价值150万-400万美元，其中半导体内容价值占比超过95%。逻辑芯片（尤其是AI加速器）占半导体价值的65%以上，存储芯片占20%以上，其余为电源管理等模拟与基础芯片。
新兴技术趋势如何影响AI数据中心芯片设计？
边缘AI推动低功耗、低成本推理芯片需求；工艺从FinFET向纳米片FET演进，新材料（如GaN、二维半导体）拓展性能边界；架构上芯粒和共封装光学（CPO）成为趋势，实现更紧密集成与更高能效；硬件-软件协同设计成为主流，超大规模云商自研芯片增加。
报告中的代表性数据
单个AI服务器机架芯片数量
报告撰写时（2026年），指先进AI数据中心中一个完整服务器机架所包含的半导体器件总量。
AI数据中心半导体年收入预测
2028年，为部署在AI数据中心的半导体总收入预测，包括逻辑、存储、模拟等芯片。
AI半导体占机架内容价值比例
报告撰写时（2026年），在领先的AI服务器机架总价值中，半导体内容的占比。
以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。
完整报告包含什么
- 详细拆解AI数据中心服务器五大托盘（计算、互连、电源、网络、冷却）的半导体组件清单，包括每种芯片的功能、数量、单价范围及典型供应商。
- 三组关键市场预测图表：AI数据中心半导体总收入（2022-2028）；训练与推理芯片需求分化趋势；不同技术节点的价值分布。
- 完整的AI训练工作流芯片协作流程图，展示从数据摄取、NVMe存储、DPU预处理到AI加速器并行计算的全过程，以及CPU的编排作用。
- 基于服务器机架层次的半导体价值分布分析，量化逻辑、存储、模拟/基础芯片的占比，并揭示高价值芯片（单价>10万美元）仅占数量3%却驱动大部分价值。
- 全球供应链地图：从EDA设计（美国）、晶圆制造（台湾、韩国）、封装测试（东南亚、美国）到系统集成（中国大陆、台湾）的完整路径，标注关键节点依赖风险。
- 新兴前沿专题：共封装光学（CPO）技术原理与实施挑战；边缘AI对低功耗SoC和NPU的需求；化合物半导体（GaN/SiC）在电源管理中的优势；热机械设计拐点与冷却方案趋势。
- 分章节附录包含详细术语表（80+词条）和参考文献列表（超40篇），可追溯数据来源与研究方法论。
- 作者团队涵盖SIA政府事务、德勤半导体咨询及技术政策研究负责人，提供多维度专业观点。
本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。
