登录
注册
据 Woofun AI 消息,美光在 Hot Chips 2026 大会上发出严峻警告:AI 算力每两年成长 3 倍,而 HBM 带宽每年扩展不到 2 倍,'内存墙'危机正加速恶化。
这一结构性失衡意味着,若无制程、封装与 IO 设计的颠覆式创新,HBM 现有技术路线将迅速触及物理极限。Meta 在训练 Llama 3 时高达 17% 的意外中断归因于 HBM 缺陷,进一步印证了存储器可靠性已成为制约 AI 发展的核心瓶颈。美光强调,单靠任何一家厂商都无力解决这一系统性难题,必须依靠全产业链的协同突破。
值得注意的是,HBM 的硅晶面积是 GPU 的 8 倍,且单位容量成本约为 DDR5 的 3 倍,高昂的代价与日益扩大的性能缺口,使得行业亟需从单点优化转向多维度的技术重构。
Woofun AI 整理数据显示,算力与存储之间的鸿沟正在以复利效应急剧扩大。美光引用 OpenAI 的研究《Scaling Laws for Neural Language Models》指出,LLM 的测试损失随算力、数据集与参数量同步扩展而平滑下降,存储并非配角,而是驱动模型进步的关键变量。从 2019 至 2027 年的产品演进来看,GPU 算力沿 A100、H100、MI300X、B200 逐步攀升,每两年约提升 3 倍;相比之下,HBM 带宽从 HBM2E 演进至 HBM4,每两年增幅却不到 2 倍。
这种增速差异导致每两年算力对存储的需求缺口额外扩大 1.5 倍。美光以 Roofline Model(屋顶线模型)解释这一现象:AI 训练与推理中有大量运算处于'内存瓶颈区(Memory Bound)',处理器常在等待数据时无法发挥效能。HBM 将带宽上限整体上移,使更多工作负载能在触达内存上限前进入算力饱和区。
然而,HBM4 带宽虽达到 2,800 GB/s,较 DDR5 高出 15 至 17 倍,但其高昂的硅面积成本使得大规模部署面临严峻的经济性挑战。
自 2014 年问世以来,HBM 历经六代,核心规格大幅跃升:数据速率从 1 Gbps 升至 11 Gbps,增长 11 倍;标称带宽从 128 GB/s 升至 2,800 GB/s,增长 22 倍。HBM4 首次将 Data I/O 数量从此前五代的 1,024 条翻倍至 2,048 条,这是带宽跃升的主因之一。
值得注意的是,HBM4 与 HBM3E 的单 die DRAM 密度同为 24 Gb,HBM4 的带宽飞跃主要来自 IO 加倍与数据速率提升,而非更高的 die 密度,显示 HBM 的世代竞争重心已从'存多少'转向'传多快'。在典型 GPU 配置下,HBM 系统总带宽达 5.3 TB/s,DDR5 约 300 GB/s,差距约 16 倍;单 die 带宽上,HBM3E 的 256 GB/s 对比 DDR5 的 8 GB/s,差距扩大到 32 倍。
然而,堆叠层数从最初的 4-Hi 增至当前主流的 12-Hi,路线图上甚至有 16-Hi 到 20-Hi 的规划。超过 16-Hi 仍存在大量工程问题,主要是随层数增加而恶化的 TSV 制造良率。美光强调,问题本质是功率密度而非总功耗。热量最集中处是 Base Die,因为 HBM 最复杂的逻辑几乎全部集中于此;随着堆叠层数增加,上方 DRAM die 的热量必须向下传导,进一步加重 Base Die 的散热负担,形成恶性循环。Meta Llama 3 的实战数据说明了后果:大规模 LLM 训练动辄数周至数月,超过 17% 的故障中断源于存储故障,直接拖慢 AI 技术迭代并推高成本。
面对物理瓶颈,美光提出两条突破路径。其一是针对内存存取模式特性进行优化的电路设计,值得关注的是幻灯片中出现 CPO(共封装光学),显示美光正探索用光学互连突破铜线在高速传输中的物理限制。其二是封装技术的革新:继传统 μbump 之后,Fusion Bonding(融合键合)支持个位数微米 pitch,可减少 DRAM die 之间的介电层数量并直接降低热阻;Hybrid Bonding(混合键合)则同时实现金属对金属、氧化物对氧化物的键合,兼顾电性与机械强度。
此外,玻璃基板(Glass substrates)以更低介电损耗和更大可制作尺寸,被视为突破硅基板面积瓶颈的关键路径。这些技术旨在解决 HBM 在提供相同容量时消耗硅面积约为 DDR5 3 倍的成本困境,同时应对高序列存取工作负载下对 Bandwidth/Watt 效率的极致追求。通过减少介电层和优化键合方式,新一代封装技术有望在提升带宽的同时,缓解因功率密度过高导致的散热危机,为 HBM 的持续演进提供新的物理基础。
美光用 ChatGPT 上线两个月触达 1 亿用户这一史上最快扩散纪录作为收尾,量化 AI 浪潮对存储技术的迫切要求。其结论是:HBM 的突破不可能由任何单一公司独力完成,必须由软件、先进封装、晶圆代工/OSAT、学术研究机构、HBM 制造商与 SoC 设计厂商六方产业为核心,紧密合作推进。如今,HBM 世代竞争的决胜点已从'谁的制程更先进、谁的堆叠更高',转向谁能在 Fusion Bonding、玻璃基板、CPO 等颠覆性封装技术上率先完成量产验证。随着 AI 算力规模持续上升,内存墙仍需产业携手翻越。这是继摩尔定律放缓之后,半导体行业面临的又一次系统性挑战,唯有通过跨领域的深度协作,才能在物理极限的边缘开辟出新的增长空间。