英伟达开源模型 Nemotron-4 340B 发布,或改变 LLM 训练方式,光模块景气度有望提升
据媒体报道,英伟达全新发布的开源模型-4 340B,有可能彻底改变训练LLM的方式!从此,或许各行各业都不再需要昂贵的真实世界数据集了。而且,-4 340B直接超越了 8x22B、 、 70B、Qwen 2,甚至可以和GPT-4掰手腕。据悉,-4 340B是一系列具有开创意义的开源模型,最大的技术变化在于进一步拥抱MOE架构,引入ROPE优化算法。
2022年以来,AI大模型已经成为科技巨头重金投入的领域,这让算力变得十分宝贵,光模块景气度与下游需求有望持续成长。东北证券认为,MOE架构相比传统模型具备更高的效率和更低的成本,在海外谷歌、英伟达等AI大模型积极采用MoE架构的推动下,MoE大模型有望成为全球AI大模型主流技术路线,对通信网络更高需求推动高性能交换机加速落地。具体来看主要是推动单交换机峰值速率提升,以及交换机总需求量增加。AI算力基础设施建设预计将保持扩张周期,带动上游光模块、交换机等环节需求提升。
据财联社主题库显示,相关上市公司中:
可川科技设立全资子公司可川光子技术(苏州)有限公司,进一步加大研发投入力度,同时着手为激光传感器和400G/800G等更高速率光模块产品布局自建产能。
罗博特科参股公司一直有向英伟达提供设备,同时与英伟达在1.6T的光模块工艺研发方面也有深入合作,公司在硅光、CPO及LPO耦合、封装测试方面是全球领先的技术提供商。