高带宽存储器：高性能计算军备竞赛的核心 两年迎百亿级翻倍市场增量丨黄金眼
HBM（高带宽存储器），一个打破内存带宽及功耗瓶颈的AI芯片发展关键环节，在英伟达新品发布背景下，正面临需求大爆发。
HBM是什么？
HBM（High Bandwidth Memory）即高带宽存储器，是基于硅通孔（TSV）和微凸点（Microbump）技术将多个DRAMdie和Logicdie堆叠而成的具有三维结构的存储产品。
GPU的主流存储方案目前有GDDR和HBM两种。在冯·诺依曼计算机体系结构中，存在着“内存墙”和“功耗墙”问题，由于传统显存GDDR5面临着带宽低、功耗高等瓶颈，HBM则能通过3D封装工艺实现DRAMdie的垂直方向堆叠封装，可以极大程度节约存储芯片占据的面积，实现更高的集成度和更大存储容量。
在传输速率方面，基于TSV工艺可以在存储芯片上制造多个内存通道、且更高集成度使得HBM和处理器之间物理距离得以缩短，因此HBM在位宽、带宽等关键性能上均明显优于GDDR。根据SAMSUNG，3DTSV工艺较传统POP封装形式节省了35%的封装尺寸，降低了50%的功耗，并且对比带来了8倍的带宽提升，有效解决了内存墙问题和功耗墙问题，成为当前满足AI需求的最佳方案，被所有主流AI芯片采用。
资料来源：《AnOverviewoftheDevelopmentofaGPUwithintegratedHBMonSiliconInterposer》，IEEE
HBM已成为高性能计算军备竞赛的核心。
英伟达早在2019年便已推出针对数据中心和HPC场景的专业级GPUTeslaP100，当时号称“地表最强”的并行计算处理器，DGX-1服务器就是基于单机8卡TeslaP100GPU互连构成。得益于采用搭载16GB的HBM2内存，TeslaP100带宽达到720GB/s，而同一时间推出的同样基于Pascal架构的GTX1080则使用GDDR5X内存，带宽为320GB/s。
此后英伟达数据中心加速计算GPUV100、A100、H100均搭载HBM显存。最新的H100GPU搭载HBM3内存，容量80Gb，带宽超3Tb/s，为上一代基于HBM2内存A100GPU的两倍。
而作为加速计算领域追赶者的AMD对于HBM的使用更为激进，其最新发布的MI300XGPU搭载容量高达192GB的HBM3显存，为H100的2.4倍，其内存带宽达5.2TB/s，为H100的1.6倍，HBM正成为HPC军备竞赛的核心。
历代HBM产品发布及量产时间线资料来源：各公司官网，方正电子绘制
新品发布，HBM热度进一步增加。
近期，英伟达发布新一代AI芯片H200，这是当前用于训练最先进大语言模型H100芯片的升级产品，更加擅长“推理”，借助HBM3e，英伟达H200以每秒4.8TB的速度提供141GB的内存，与A100相比，容量几乎是其两倍，带宽增加了2.4倍，预计于2Q24出货。据韩媒businesskorea报道，2023年以来，三星电子和SK海力士HBM订单一直在激增。
市场空间有多大？
目前，训练、推理环节存力需求持续增长、消费端及边缘侧算力增长，正在打开HBM市场空间。
从成本端来看，HBM的平均售价至少是DRAM的三倍，此前受ChatGPT的拉动同时受限产能不足，HBM的价格一路上涨，与性能最高的DRAM相比HBM3的价格上涨了五倍，高端AI服务器GPU搭载HBM芯片已成主流。
根据TrendForce，2022年全球HBM容量约为1.8亿GB，2023年增长约60%达到2.9亿GB，2024年将再增长30%。方正证券观点认为，以HBM每GB售价20美元测算，2022年全球HBM市场规模约为36.3亿美元，预计至2026年市场规模将达127.4亿美元，对应CAGR约37%。
全球HBM市场规模（亿美元）资料来源：TrendForce，佐思汽研
集邦咨询则表示，2023年主流需求自HBM2e转往HBM3，需求比重预计分别为50%及39%。2024年市场需求将大幅转往HBM3，HBM3比重预计达60%。由于HBM3平均销售单价远高于HBM2e与HBM2，因此将助力原厂HBM领域营收增长，有望进一步带动2024年整体HBM营收至89亿美元，同比增长127%。
目前整个HBM市场是三分天下的格局，其中SK海力士技术领先，三星/美光加速追赶。
SK海力士当前技术领先，核心在于MR-MUF技术，MR-MUF能有效提高导热率，并改善工艺速度和良率。SK海力士于2021年10月率先发布HBM3，2023年4月公司实现了全球首创12层硅通孔技术垂直堆叠芯片，容量达到24GB，比上一代HBM3高出50%，SK海力士计划在2023年年底前提供HBM3E样品，并于2024年量产，公司目标2026年生产HBM4。
三星则有万亿韩元新建封装线，预计25年量产HBM4。为应对HBM市场的需求，三星电子已从三星显示（SamsungDisplay）购买天安厂区内部分建筑物和设备，用于建设新HBM封装线，总投资额达到7000-10000亿韩元。三星预计将在2023Q4开始向北美客户供应HBM3。
美光则将在2024年量产HBM3E，多代产品研发中。美光在此前的财报电话会议上表示将在2024年通过HBM3E实现追赶，预计其HBM3E将于2024Q3或者Q4开始为英伟达的下一代GPU供应。11月6日美光在台湾台中四厂正式开工，宣布将集成先进的探测和封装测试功能，生产HBM3E等产品。
国内企业机遇在哪里？
HBM产业链主要由IP、上游材料、晶粒设计制造、晶片制造、封装与测试等五大环节組成。
其中DRAM晶粒供应链主要厂商为三星、海力士与美光，芯片制造与封装厂商主要为拥有CoWoS技术的台积电、I-Cube技术的三星、EMIB技术的英特尔等拥有2.5D/3D封装技术的Foundry/IDM厂商，测试领域则由传统封装测试厂商如日月光、Amkor等占据。
在IP环节，除AMD与赛灵思等IC设计厂商外，包括新思科技、益华计算机、Rambus与台湾创意等IP厂商都提供HBMIP解决方案，全球最大IP厂商Arm尚未提供相关解决方案。
国内厂商则主要处于上游材料和半导体设备领域。
其中有固晶机老兵新益昌，公司以固晶机业务为基，拓展焊线机和分选设备，与通富微电、华天科技、扬杰科技等客户合作紧密。受益于封装技术的迭代，对固晶精度的要求越来越高，同时HBM高带宽特征拉动键合需求，从μbump到TCB/混合键合，推动固晶步骤和固晶机单价提升。此外值得注意的是，2021年封测设备中的焊线机和固晶机国产化率仅3%，国产替代空间广阔。
测试机、分选机方面有长川科技，2023年完成长奕科技资产过户，使得公司成功进入集成电路分选设备领域，实现重力式分选机、平移式分选机、转塔式分选机的产品全覆盖。
天承科技则是先进封装电镀液领军者，作为先进封装材料中第一大单品的电镀液，已经较传统产品价值量提升翻倍以上。3D封装中TSV渗透率迅速提升，据Vantage Market Research预测，TSV市场2022-2026年CAGR为16%，而电镀液对TSV性能至关重要。
前驱体核心供应商雅克科技，通过收购韩国前驱体厂商UPChemical、LG光刻胶事业部、Cotem成为SK海力士、LG品示的核心供应商，此外雅克也已进入合肥长鑫、长江存储、京东方等国内龙头客户，高算力芯片带动HBM需求，SK海力士作为HBM领军企业，2022年6月宣布开始量产HBM3，预计于2022Q3向英伟达H100系统供应HBM3，UPChemical作为SK海力士前驱体核心供应商，有望充分受益。
深耕硅微粉行业已40年的联瑞新材，主要产品包括结晶硅微粉、熔融硅微粉、球形硅微粉、氧化铝粉/针状粉，其中low-α球硅和low-α球铝是3D封装关键原材料GMC（颗粒状环氧塑封料）的添加料。
华海诚科则是内资环氧塑封料代表厂商，华海诚科成立于2010年，主要产品为环氧塑封料和电子胶黏剂，是国内少数具备芯片级固体和液体封装材料研发量产经验的专业工厂。公司紧密跟进下游封装技术，近一年成功研发了lowCTE2技术和对惰性绿油高粘接性技术，并积极开展无铁生产线技术和无硫环氧塑封料产品。
在先进封装领域，公司应用于QFN的产品700系列已通过长电科技及通富微电等知名客户验证，实现小批量生产与销售，成为公司新的业绩增长点；应用于先进封装的颗粒状环氧塑封料（GMC）以及FC底填胶等已通过客户验证，液态塑封材料（LMC）正在客户验证过程中，有望逐步实现产业化并打破外资厂商的垄断地位。