2024 开放数据中心峰会:三星电子副总裁探讨生成式 AI 时代的技术趋势

aixo 2024-09-04 00:11:52
存储 2024-09-04 00:11:52

(全球年9月3日讯)9月3日,“2024开放数据中心峰会”在北京召开。三星电子副总裁兼闪存应用工程师团队负责人,沈昊俊在会上发表主题演讲。他介绍了推动社会进入生成式AI新时代的三大因素,即计算能力的飞跃,大语言模型(LLM)的精进,以及各种AI服务的兴起,并进一步探讨了生成式AI时代“更优AI”的技术趋势,指出新时代面临的挑战不仅仅是存储器大容量的需求,随着迈向更精密的AI模型,存储器的高性能读写能力也是当下面临的巨大挑战。

hbm核科技_湖北民族大学教务管理系统_HBM

三星电子副总裁,闪存应用工程师团队负责人沈昊俊( Shim)发表主题演讲

沈昊俊介绍,为克服性能和容量的制约,采用并行搭载HBM和DRAM的方式正在逐渐成为行业趋势。三星半导体目前单芯片容量最大32Gb的DDR5内存产品,不久将可供应128GB/256GB等大容量封装规格;以及拥有目前三星最高随机写入性能400K IOPS的高性能8通道PCIe Gen5 SSD 。三星的主要代表产品有通过12层单容量堆叠技术实现的36GB容量的HBM3E Shine Bolt;-PIM产品能够将系统能效提高70%左右,同时可以将性能提升最多8倍。三星基于QLC NAND技术的SSD产品未来可提供大容量规格计划。

HBM