​HBM“狂飙”，算力突围

HBM“狂飙”，算力突围

算力背后的 " 推手 " —— HBM。

得益于 A I 算力的需求， HBM 成为香饽饽。

近日据韩国 Chosun Biz 报道，NVIDIA 已经向 SK 海力士、美光，交付了 700 亿至 1 万亿韩元的预付款。虽然预付款未作具体说明，但业界普遍认为是 NVIDIA 为保证今年要上市的 GPU 产品相应所需 HBM3E 的物量供应。

同样在需求激增的市场环境下，存储三大巨头也在争相推进 HBM 生产。近期，三星、SK 海力士正计划将 HBM 产量提高至 2.5 倍，美光则将在今年推出 8 层堆叠的 AI 专用 HBM3E 内存。对于 HBM4，这三家企业也是当仁不让，相继确认开发和正式推出的时间。

TrendForce 预估，2024 年全球 HBM 的位元供给有望增长 105%；HBM 市场规模也有望于 2024 年达 89 亿美元，同比增长 127%；预计至 2026 年市场规模将达 127.4 亿美元，对应 CAGR 约 37%。

01. 是谁在推动 HBM 市场？

HBM（High Bandwidth Memory，高频宽存储器）是一种基于 3D 堆栈工艺的高性能 DRAM，通俗来讲，就是先将很多 DDR 芯片堆叠在一起后，再与 GPU 封装在一块。正是基于 Interposer 中介层互联实现了近存计算，以及 TSV 工艺的堆叠技术，让 HBM 打破了内存带宽及功耗瓶颈，成为 AI 训练硬件的首选。

其实 HBM 应用已有几年的时间，自 2014 年首款硅通孔 HBM 产品问世至今，HBM 技术已经发展到第五代，其中 HBM3E 是 HBM3 的扩展版本，依次类推，HBM4 将是第 6 代产品。从 HBM 内存的演变来看，最新的 HBM3 带宽、堆叠高度、容量、I/O 速率等较初代均有多倍提升。

图源：Rambus

这也恰恰是 AI 算力所需要的。

根据 OpenAI 的数据，自 2012 年以来，最大规模的 AI 训练所使用的计算量以每年 10 倍的速度增长。OpenAI 的 ChatGPT 充分体现了 AI 训练数据集的增长。2022 年 11 月发布的 GPT-3，使用 1750 亿个参数构建，去年 3 月发布的 GPT-4 使用超过 1.5 万亿个参数。

面对这波 AI 浪潮， NVIDIA 创始人兼首席执行官黄仁勋曾表示：" 大语言模型初创公司、消费互联网公司和全球云服务提供商都已率先行动起来，下一波浪潮蓄势待发。" 当然，算力作为人工智能中关键一环，人工智能芯片供应商扮演着重要角色。

NVIDIA2023 年的高端 AI 阵容使用 HBM，包括 A100/A800 和 H100/H800 等型号。此外，NVIDIA 还再进一步完善其产品组合，发布了配备 HBM3E 内存的 H200 GPU 以及 GH200 超级芯片，相关系统预计将于今年第二季度上市。据了解，以 GH200 超级芯片为例，HBM3E 内存比当前 HBM3 快 50%，可提供总计 10TB/s 的带宽，这使得 NVIDIA GH200 Grace Hopper 平台能够运行比上一版本大 3.5 倍的模型，同时凭借快 3 倍的内存带宽提升性能。

与 NVIDIA" 神仙打架 " 的 AMD，在去年 12 月 "Advancing AI" 活动上，正式发布了 AI 旗舰 GPU 加速器 AMD Instinct MI300X，更是宣称性能比英伟达的 H100 高出 60%。据了解，MI300X 采用 HBM3 内存，容量最高 192GB，比前代 MI250X（128 GB）高 50%。该内存将提供高达 5.3TB/s 的带宽和 896 GB/s 的 Infinity Fabric 带宽。

同样想分 AI 一杯羹的，还有英特尔。据外媒报道，英特尔计划 2024 年发布 Gaudi 3，配备最高 128GB 的 HBM3E RAM，大幅提升 AI 学习和训练性能。

谁能成为 NVIDIA 的替代者，还需要市场的反馈。

毋庸置疑的是，这场 AI 竞争需要极高的算力需求，但因产能受限，供不应求成为现状，进而使 HBM 价格高增，HBM 市场规模高速增长。

图源：方正证券

方正证券报告指出，从成本端来看，HBM 平均售价至少是 DRAM 三倍；而此前受 ChatGPT 的拉动同时受限产能不足，HBM 价格一路上涨，与性能最高的 DRAM 相比，HBM3 的价格上涨了五倍。

02.HBM 市场三分天下

在 NVIDIA、AMD、英特尔三家互搏的同时，存储厂商也没有闲着，生产 / 扩产成主旋律。

从 2013 年宣布成功研发 HBM1，到 2019 年开发出世界最快的高带宽存储器 HBM2E，再到 2021 年 10 月开发出全球首款 HBM3 DRAM，再到去年开发出全球最高规格 HBM3E，SK 海力士一直是 HBM 行业的领军企业。

值得关注的是，SK 海力士 2023 年第一季度由盈转亏的 DRAM 仅在两个季度后扭亏为盈。

SK 海力士解释道：" 因高性能半导体存储器产品为中心的市场需求增加，公司业绩在第一季度低点过后持续改善，特别是面向 AI 的代表性存储器 HBM3、高容量 DDR5 DRAM 和高性能移动 DRAM 等主力产品的销售势头良好，与上季度相比营业收入增长 24%，营业损失减少 38%。"SK 海力士表示，将以第四代 10 纳米级 ( 1a ) 和第五代 10 纳米级 ( 1b ) DRAM 为中心的生产线转换，同时扩大对 HBM TSV1 技术的投资。

图源：SK 海力士财报

据悉，SK 海力士已决定在 2024 年预留约 10 万亿韩元（约合 76 亿美元）的设施资本支出聚焦于为高附加值 DRAM 芯片扩建设施，包括 HBM3、DDR5 及 LPDDR5，以及升级 HBM 的 TSV 先进封装技术两方面。SK 海力士首席执行官 Jeong-ho Park 透露，预计到 2030 年公司 HBM 出货量将达到每年 1 亿颗。

此外，SK 海力士在公司年度高层改组中，新成立的 AI 基础设施部门将整合分散在公司内部的高带宽内存（HBM）能力。该部门还将主导新一代 HBM 芯片等人工智能技术的发展，寻找并开发新市场。不难看出，SK 海力士对 HBM 的高期望。

以 TrendForce 报告统计数据为参考，2022 年 SK 海力士占据了 HBM 全球市场规模的 50%，三星紧随其后，占比为 40%。

二者皆得益于存储市场回暖的影响，从三星电子去年第三季度财报数据来看，出现了复苏的迹象。数据显示，三星电子第三季度存储业务环比增长 17% 至 10.53 万亿韩元，存储业务所在的 DS 部门经营亏损 3.75 万亿韩元，但较上季度经营亏损 4.36 万亿韩元有所减少。

图源：三星财报

面向未来存储市场增长的预期，三星电子收购了三星显示（Samsung Display）天安厂区内部分建筑及设备，用于 HBM 生产。三星电子计划在天安厂建立一条新封装线，用于大规模生产 HBM，预计投资 7000 亿 -1 万亿韩元。同时，三星正在投入 8 层、12 层 HBM3 量产，并开始供应 8 层 HBM3E 样品。

据悉，之前英伟达的 HBM 一直由 SK 海力士独家供应，由于需求极为庞大，三星据称也已通过质量评估，即将加入供应商队列。也有消息称，三星电子计划从今年 1 月开始向英伟达供应 HBM3。

对 2023 年 HBM 市场份额，TrendForce 预测，SK 海力士和三星的 HBM 份额占比约为 46-49%。这一数据也凸显出，SK 海力士和三星的势均力敌。

如果说三分 HBM 市场的 " 天下 "，最后一家企业则是美光 ( Micron ) 。美光虽然 2022 年市场份额仅为 10%，但也不甘于落后。美光科技台中四厂正专攻 HBM 生产，计划将于今年量产第五代 HBM3E 产品。

就供应链而言，业界预测，这三家公司将为英伟达即将推出的 H200 和 B100 所需的 HBM3E 供应展开激烈竞争。

小结

智能语音、ChatGPT、智能驾驶等智能化应用逐渐渗透到我们的生活中，带来了巨大的存储芯片需求。去年下半年存储芯片市场价格的反弹信号，让行业人士看到 " 曙光 "。

从存储产业链看，SK 海力士、三星等大厂采用 IDM 模式，一手包办了芯片的设计、制造和封测。而国内市场，存储产业链还是比较边缘，主要处于 HBM 上游设备和材料供应环节。但国内相关 HBM 概念股也有所受益。有消息称，相关厂商也在积极布局高端存储产品，以求适应市场需求和技术演进。