HBM 技术在 AI 服务器领域的应用及发展前景,国内产业如何应对制裁挑战?
全文摘要
目前,HBM(高带宽内存)技术在AI服务器领域广泛应用,尚未普及至PC或手机等产品。HBM3E正进入验证阶段,主要生产商包括三星、海力士和美光,其中海力士市场份额最高。预计HBM4将在2026年第三季度开始大规模量产,技术细节如3D飞碟封装仍在讨论中。2023年,全球HBM产能合计约24万片,能满足AI市场需求。2024年,随着海力士、三星和美光扩大产能,总产能有望达到70万片。HBM价格高于传统DDR,显示其高市场价值。全球半导体领域受制裁影响,尤其是美国对18纳米以下制程等技术的限制,对国内半导体产业构成挑战。为减轻制裁影响,国内产业需加速技术升级和国产化进程。HBM技术采用TSV、RDL等先进封装技术,提升了内存带宽和速度,但制造工艺复杂度显著提高,材料需求增加。TSV工艺包括深反应离子蚀刻、绝缘层沉积、导电物质填充等步骤,对供应链管理要求高。国内刻蚀机市场被海外品牌主导,但在钻孔、绝缘层沉积、电镀填充等方面有所进展。HBM与传统内存封装技术的主要区别在于封装技术的先进性,特别是在提高互连密度和速度方面。EMC材料在HBM中的应用提高了封装效率。中国在HBM领域已有多家开发企业,其中一家预计明年第二或第三季度推出产品,显示出在材料和技术上的进步,但需应对国际限制和技术突破的挑战。面对外部限制,国内企业考虑供应商动态、申请技术豁免、使用现有技术或转向国产替代作为应对策略。
问答
问:HBM技术目前主要应用在哪类设备上?HBM在智能驾驶领域有何潜在应用?
HBM技术目前主要用于AI服务器,尤其是AI相关领域,尚未广泛应用于PC或手机等产品。HBM可能在汽车车载领域,特别是在智能驾驶方面有应用前景,但目前主要还是集中在AI服务器上。
问:HBM是什么类型的内存?
HBM是一种高性能内存,属于DDR系列的一种,被称为图形类DDR(GDDR)产品,不同于标准DDR和低功耗DDR。
问:HBM产品的供货情况如何?
HBM产品已经到达第五代,包括HM1、HM2、HM3、HM3E等,目前已有多家客户(如和AMD)验证通过,并预计在今年Q3左右开始大规模量产HM3E产品。
问:HBM目前有哪些厂商能够生产?
目前只有三星、海力士和美光三家厂商能够生产HBM内存,其中海力士的份额最高,约为50%,三星次之,美光占剩余10%左右。
问:HBM的产能情况如何?
2023年底,HBM的总产能为24万片,而2024年三家厂商将大幅度扩产,其中海力士计划达到2023年的三倍,三星计划达到2023年的2.5倍,美光计划在2024年底实现1.6倍的产能增长。预计到2024年底,HBM的产能将达到约70万片。
问:HBM产能与传统DDR内存的对比如何?
对比显示,HBM的产能数据明显低于传统DDR内存的产能数据。
问:HM与DDR在产能数据上有何差异?
HM的产能数据相比DDR显著较低,传统低压产品中,以三星等厂商为例,每月产能约40到60万片,而HM三家加起来全年产量仅24万片左右,两者在产能数据上存在较大差别。
问:HM实际产能如何?HM为何价值量大?
虽然HM的总产能数据较低,但其制造过程中的产能占据是传统DRAM的2到3倍。HM的价值量巨大主要源于其价格非常高,比如HM3的价格预计在30到32美金一个GB。
问:HM的具体价格范围是怎样的?
HM的价格区间从HM31起预计为30到32美金一个GB,而HMM3的价格大概是26美金一个GB左右,HTM3的价格则是26美金一个GB左右,HPM2和2亿的价格约为22到23美金一个GB,HBM1的价格在过去大概为18到19美金一个GB。
问:HM受到的制裁情况如何?
HM作为美国制裁的一部分,其产品如HM3以及HM3E等可能会限制在国内出售,同时可能会限制国内企业使用美国设备和材料来制造HBM颗粒,预计在Q4季度可能会出现制裁逻辑的变化。
问:HM的技术特点和供应链情况如何?
HM属于先进封装技术,不同于传统的Devan和Flash工艺,它使用了TSV、RDL、bump以及WLP等构造。HM在制造过程中涉及的工艺步骤、材料使用和工艺参数都与传统技术有巨大差异,尤其是TSV工艺,是首次大规模试用的新技术,旨在提高信号传输速度和带宽。
问:TSC工艺流程的第一道工艺是什么?TSC工艺流程中的第二道工艺及其区别于传统工艺的特点是什么?
TSC的第一道工艺是采用深反应测试法(DRIE)进行通孔制造。第二道工艺是绝缘层资产和阻挡层的沉积。相较于以前使用的反应课时法(RE),TSC采用等离子干法刻蚀(DRIE)进行孔深与宽比更大的刻蚀。
问:金元减毛和层间叠层的顺序是怎样的?
金元减毛在导电物质填充之后进行,而层间叠层则在成奸之后完成。
问:TSB在哪些产品中使用过生反应课时法(RE)?
生反应课时法(RE)曾在mmx图像处理产品中应用,但TSB中采用的是深反应测试法(DRIE)。
问:TSV孔钻孔后会先做什么步骤?
TSV孔钻孔完成后会先进行绝缘层的沉积,以防止电路信号干扰和连接问题。
问:目前绝缘层沉积的主要方法有哪些?
目前有PECBD、SACBD化学气相沉积和ALD原子层沉积等多种方法,其中设备主要被KLA和应用材料两家海外公司垄断。
问:绝缘层通常使用什么材料沉积?
绝缘层一般使用无机介质材料,如二氧化硅、氮化硅或这两种材料复合构成。
问:阻挡层和种子层是如何进行升级的?
阻挡层和种子层通常使用钛氮化钛等材料,并通过物理批量沉积(PVD)方法实现,类似操作在业界已有先进技术和设备,例如海外的KLAR等。
问:TSV工艺中最后一步是什么?TSV工艺与传统封装技术相比有何差异?
TSV工艺的最后一道步骤是金元减薄,也就是背面简化工艺,以使整个TSV结构的背面更平坦并满足后续工序要求。TSV工艺在材料类别上与传统封装技术有很大区别,它减少了使用的一些材料,但增加了特定的3D封装所需的材料,同时,TSV工艺的价值量增长幅度也大于传统封装技术。
问:HBM技术相比传统封装技术在材料使用上有何不同?
HBM技术在材料使用方面与传统封装技术存在显著差异。首先,HBM无需使用传统的焊球,而是直接采用微凸点技术进行连接,避免了传统封装中7PDA和MSRA基板之间的焊球连接环节。其次,HBM对于EMC(环氧树脂)材料的使用量远大于VM和lash技术,这是因为HBM通常采用八层堆叠设计,导致对EMC的使用量需求非常高。此外,HBM不仅在外表面填充EMC,还会填充内部空隙,这使得其对EMC材料的要求更高。
问:HBM技术在封装颗粒数量上有何特点?
HBM技术在封装颗粒数量上相对较少,通常一个颗粒的使用量大概在几百到几千个不等,远低于传统封装技术中潘锡球(PAD)的大量使用。同时,虽然HBM在封装颗粒上相较于传统技术有所提升,但其价值量相对较低,且由于需要占用产能且交货期较长,相比传统逻辑芯片的封装技术在价值量和成本控制上不占优势。
问:HBM技术中的in the boss(inBO)和传统逻辑芯片封装有什么区别?
在HBM技术中,in the boss(inBO)起到中间层的作用,用于连接HM颗粒与GPU芯片。相较于传统逻辑芯片封装工艺,inBO在制造工艺上更类似载板工艺,价格更低廉,且能更好地实现封装精度和信号传输性能。目前主要有两种封装方案,一种是传统的CDM模式,另一种是采用inBO封装的模式。尽管inBO成本较低,但在高端AI产品中的应用表现优于传统CDM封装,因其对准精度高、信号传输损耗小,从而提升了整体性能表现。
问:国内供应链在HBM技术中有哪些渗透和参与情况?
国内供应链已经在HBM技术中有所渗透,例如,在前期铝材料方面,有一家公司已经进入三星、海力士、美光等大厂供应链,且用量较大。此外,在EMC(环氧树脂)环节,有一家国内公司通过验证并准备进入大规模供货阶段,而另一家以L打头的供应商也伴随着其进入而进入了整个HM的供应链。同时,检测设备方面,SD这一家检测设备供应商也已参与到HM的产业环节中来。
问:武汉那家企业的HBM开发情况如何?
位于武汉的企业之前主要生产Flash存储芯片,现也在开发HBM。由于其在CS产品开发中积累了TSV工艺和封装工艺经验,具有一定的技术优势和经验积累,但目前发布的消息显示,其开发进度可能落后于C公司。不过,考虑到两者同步发布,也不排除其同步发布HBM产品的可能性。
问:第三家企业的HBM开发模式及进展如何?
第三家企业的开发模式类似于新N,与设备或材料厂家进行合作。该企业投资了2000亿人民币,预计明年年底之前能推出HM产品的形态。尽管消息闭塞,但可以预见其将通过合作模式推进技术研发,以期赶上HBM的发展步伐。
问:国内企业HBM开发情况如何?
目前,国内有三家公司在开发HBM产品,其中C打头的一家公司开发进度最快,预计在明年中旬左右能开发出HBM产品。这家公司的材料建设已完全OK,但技术角度上仍处于初期开发阶段,且由于制造工艺停留在D1Z(15.8纳米),相比美光等厂家的产品存在两代差距。不过,他们采取了将设计、制造、封测分离的合作模式,与深科技及三大厂合作,专门负责TSV麦克风面和公测,以便更快追赶技术发展。
问:HBM是否会替代GDDR在AI芯片中的应用?
理论上,HBM可以通过将GDDR颗粒与GPU封装在一起,用以替代部分HBM需求。但实际上,目前顶级的AI服务器如A100、H100等通常配备HPM,而一些中低端AI应用或简单模型训练场景可能采用GDDR方案。虽然未来有潜力出现GDDR替代HBM的应用场景,但目前大部分大模型AI服务器仍主要采用HBM。
GDDR和HBM的产品结构有何区别?
GDDR和HBM在产品结构上有相似之处,即GDDR也会在GPU芯片旁边放置多个颗粒,类似于HM旁边的ABM颗粒。不过,两者并非堆叠式设计,而是将多个GDDR颗粒并排放置在HM旁边。目前存在的散热和堆叠问题是限制HBM大规模量产的主要因素,但随着技术进步,如H4等型号的开发,可能会有新的解决方案。