互联网大模型掀降价潮运营商大幅强化算力基础设施

aixo 2024-05-24 10:56:25
算力 2024-05-24 10:56:25

近日,各大AI大模型厂商纷纷启动降价潮,部分价格降幅甚至高达97%。而电信运营商则强化与大模型产业链厂商结盟,同时扩大算力资源领域,不断加大算力基础设施建设,希望在AI大模型竞赛热潮中分一杯羹。

互联网大模型掀降价潮

近段时间,各个AI大模型掀降价潮。5月21日,阿里云宣布,通义千问GPT-4级主力模型Qwen-Long,API输入价格直降97%。5月22日,腾讯方面介绍,其最高配置万亿参数模型混元pro,API输入价格降幅也达到70%。高调入局大模型战场的字节跳动也推出价格极低的豆包主力模型。百度智能云宣布文心大模型两大主力模型全面免费。

此外近期大幅降价的大模型还包括国内大模型公司智谱AI、幻方量化旗下公司的第二代MoE模型等。

运营商大幅强化算力基础设施

值得关注的是,在互联网厂商AI大模型近期大幅降价同时,运营商也在大幅强化“AI+”基础设施。

5月21日,广东移动赋能产业新质生产力“AI+生态”论坛在广州举行。广东移动方面表示,将加快“AI+”基础设施建设,在广州、深圳打造华南首个国产双千卡智算资源池,智能算力规模达770P FLOPS(FLOPS ,每秒浮点运算次数),可以满足千亿参数大模型算力需求。在算力资源基础上,广东移动同步打造了大模型训推一站式智算平台,通过全流程工具链和平台支撑能力,助力提升大模型研发效率。

5月17日,“琶洲算谷·中国移动(广州)智算中心”举行运营发布仪式。据广州移动介绍,目前已投产通信核心机楼14栋、运营机架超2.2万个,边缘云算力规模位居全省前列。广州移动“琶洲算谷”智算中心第一期如期落地,可提供300P(1P约等于每秒1000万亿次计算速度)服务能力,满足琶洲试验区总部型企业的算力服务需求;第二期新地块建成后将具备 1000P服务能力,与中国移动南方基地智算中心形成双核心辐射全广州,可面向政府、企事业单位提供优质的算力服务。

5月22日,中国电信粤港澳大湾区首个大规模全液冷智能算力数据中心发布暨数字韶关框架协议签约仪式活动在韶关举行。中国电信粤港澳大湾区一体化数据中心项目是国家“东数西算”在大湾区核心布局,是全国一体化算力网络八大枢纽节点之一,项目一期总投资超32亿元,占地面积约98亩,总建筑面积约9.5万平方米,按国A标准高质量建设数据中心及全液冷智算中心。

广东电信表示,将继续加大投资力度,着力将粤港澳大湾区一体化数据中心打造成具有国际竞争力的算力产业集群,为粤港澳大湾区乃至全国用户提供优质、高效的算力服务。

运营商成AI模型厂商“外援”

有业内专家表示,尽管很多大AI模型厂商本身拥有非常充沛的算力,但部分算力资源比较弱的厂商,则需要结盟运营商这个“外援”。

比如,广东移动与北京智谱AI共同发布首个MaaS合作平台,就是由广东移动建设服务门户和提供算力资源,将智谱AI大模型接入合作平台,共同为客户提供模型部署、应用开发和项目定制化三种服务模式。

广州移动表示,目前在算力服务领域合作签约已达亿元,累计提供算力服务超1000P,算力联盟合作伙伴超500家。

“比如,作为国内领先的人工智能企业科大讯飞,拥有自己的人工智能服务器和算力资源。但随着AI技术的发展,特别是在大模型训练方面,算力需求巨大,科大讯飞可能会根据自身需求购买额外的算力资源。”艾媒咨询CEO张毅表示,根据公开信息,科大讯飞与华为合作,共同打造了国产算力平台“飞星一号”,以实现在算力方面的自给自足能力。但另一方面,科大讯飞还与中国移动等运营商合作,共同推动算力网络产业链的发展。张毅认为,这表明科大讯飞在算力方面采取了多元化的策略,既自建算力平台,也与外部合作伙伴共建算力资源。

实际上为强化向产业链推广算力资源,运营商也积极行动。近日广东移动携手广东省科技厅、广东省人工智能产业协会等共同成立“人工智能+”产业联盟。