2024 全球 HBM 芯片产能分析:英伟达 13 亿美元预算能否垄断?
“芯事重重”半导体产业研究策划,本期聚焦2024全球HBM芯片产能分析,独家发布腾讯新闻,未经授权,请勿转载。
文 / 腾讯科技特约作者 某厂后端产品PMO总监 .Zhang
前段时间,知名硬件网站援引知情人士的消息称,英伟达为了确保今年的GH200、H200的供应,开出13亿美元的预算,向美光和SK海力士预定了部分HBM3e内存产能。
不过由于这组数据没有合理的计算,13亿的预算的可信度有待确认,但可以肯定的是,这笔预算不可能买空2024年全球HBM的产能。
它的价值在于,可以帮助英伟达抢到2024年上半年“垄断算力”的机会窗口——产品先市场化,就能先抢到市场份额。
2024,约5600万颗HBM出货
2024年,SK海力士、美光和三星三家代工产能总计会扩大到75万片晶圆,按目前业内的数据,HBM3e的良率大概90%左右,每片晶圆约可以切出750颗,全球2024年的HBM总产能大致为5600万颗(12层 + 8层),但是大规模产能集中在下半年开出,上半年比例略小。
倘若基于2024年CoWoS封装产能推算:
而在GPU-HBM垂直封装的产能方面,截至2024年第4季度,全球CoWoS的封装总产能推算大约30万片晶圆,其中包括台积电约27万片,Amkor约4万片,而由于这些晶圆流片的工艺节点集中在5nm和3nm,当期良率约为38%,保守设定单片晶圆可以切30颗GPU芯片,即2024年全年,全球经由CoWoS封装的GPU产品,产能约为900万颗。按照单颗GPU逻辑芯片搭配6颗HBM内存颗粒的标准计算(AMD MI300搭配8颗HBM),全球2024年的GPU,对HBM内存的需求就在5400万颗以上(12层为主)。
小注释:CoWoS俗称2.5D封装,全称是Chip on Wafer on ,用于在相对理想的电气规则下满足多颗计算芯片的互连以及存储芯片的堆叠实现。
CoWoS封装示意图,上部分红圈为CoW,下部分红圈为oS 来源:网络
目前,12层HBM颗粒的渠道单价约为每颗250美元+,倘若13亿预算的说法属实,英伟达仅能预订520万颗,仅占HBM全年总产能的1/10。
实际上,根据封装数据的推算,英伟达2024年预定了超过14万片晶圆的CoWoS产能,其中台积电作为“主要供应商”分到12万片,Amkor作为“次级供应商”分到2-3万片,对应GPU总体的产能接近450万颗。
按照每颗GPU逻辑芯片和存储颗粒1:6的比例测算,即英伟达全年需要约2700万颗HBM,基于单颗250美元的成本测算,意味着英伟达全年采购HBM芯片的费用可以预测到68亿美元,远超此前媒体披露的13亿美元预算。
注意:诸如英伟达RTX系列使用GDDR6颗粒的消费级显卡,自然不会计入CoWoS产能;上述的英伟达产能是特指系列和架构的B200,由此估算2024年英伟达的HBM颗粒订单需求是2700万颗。
英伟达H100实物图,中间为逻辑芯片,旁边为6颗HBM芯片 来源:网络
HBM产能吃紧的背后
截至2024年第4季度,各家GPU超算产品对应HBM颗粒封装的预定产能大约900万颗,结合2025年海力士/三星/镁光三家内存厂的扩产计划总计近6000万颗HBM(12层为主,8层略少),这两份供应数据就是吻合的,同时也说明2024-2025年的CoWoS和HBM产能是充足的。
不过虽然产能不缺,但是上述数据毕竟是“年度计”,事实上很多产能直到第4季度才会开出,而各家预定的产能当然是越早越好,时效性是关键条件,上半年初的机会窗口更重要,倘若下半年才开始投产,那么产品进入渠道就要等到次年。
另外关于CoWoS产能的扩充,目前主要依赖台积电和Amkor的产能,诸如台联电、格芯等产线,虽然也能做前道65nm的中介层,但由于缺乏先进制程覆盖的能力,即无法代工前道的先进工艺逻辑芯片和中介层,也无法实现一条龙的CoWoS全栈,目前看最有机会的追赶者是三星。
三星计划导入全栈CoWoS封装,产品化命名为I-CUBE/H-CUBE,与台积电争夺订单;但是三星在2024年尚且不能开出产能,2025年可能对三星更有利,作为同时供应HBM和CoWoS的IDM厂商,其工艺特点和价格优势是显见的。(未来,三星还会推出X-CUBE 3D封装,统称为SAINT,即三星先进封装技术。)
另外,倘若2025年英特尔的晶圆代工业务顺利实现独立运营,其Intel 封装方案也值得观望。
当前我们看到HBM全球库存和渠道周转十分紧张,实际原因是当期HBM3e供应商仅有SK海力士一家,恰逢大模型高速发展的趋势带来的HBM需求高峰,进而出现供需失衡,但这种失衡会随着产能扩大而减缓。
不过,有一点需要关注,存储颗粒是一种标准品SKU,无需针对颗粒本身做客户化定制,于是这个品类就产生了所谓现货市场。标准现货是可以通过渠道或分销平台正常流通的,即倘若2024年SK海力士、美光和三星三家内存厂规划的产能全部顺利开出,则全球各区域的代理商库存都会充足,无数的次级渠道/次级代理商都可以无限转售。
因此,只要现货库存充足、价格趋势向好,现货市场便永远可以拿货,演变成DRAM现货渠道的业态,这是内存颗粒的产业特性。
这就引发了一个很有意思的话题,倘若出于特殊原因,某个企业无法通过向上述三家订货怎么办?
现货市场就是一个通路——特定企业可以从现货市场采购HBM颗粒,进而再适配控制器、适配I/O和逻辑封装。
倘若现货市场仍然买不到HBM内存,也可以从现货市场采购2D-DRAM颗粒,再通过TSV垂直方向通孔、TCB热压键合(未来更多层堆叠则需要 键合)的封装工艺可以堆叠出一个规格不算高的HBM器件。
当然,终极目标就是自研内存颗粒,实现HBM自主产业化。