腾讯混元升级,更快更强更便宜!腾讯云智算底座亮相,融合产品创新体系等发布

aixo 2024-09-06 01:06:35
大模型 2024-09-06 01:06:35

腾讯混元又升级了,这次它变得更快、更强、更便宜。

科创南方9月5日报道,今天,2024腾讯全球数字生态大会在深圳国际会展中心举行。

腾讯集团副总裁、云与智慧产业事业群COO兼腾讯云总裁邱跃鹏在现场宣布,混元Turbo已经在腾讯云正式上线。混元Turbo训练效率提升108%,推理效率提升 100%,推理成本降低 50%,解码速度提升 20%,效果在多个基准测试上对标GPT-4o。

与此同时,全新AI infra品牌“腾讯云智算”也和公众见面了,这是一个集算存网一体的高性能智算底座。全新腾讯云融合产品创新体系、RAG解决方案等,也纷纷在大会上首次发布。

当企业面临内外部多重挑战,甚至陷入“内卷式竞争”时要怎么办?在腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生看来,如果蛋糕不增长,结果就是“零和”游戏。企业增长的核心在于跳出框架,探索产业的新发展。对此,他提出了以数提效、顺势而为、扬帆出海的三大增长方向。

数字化和全球化是当今时代发展的两股浪潮。在企业出海时,“云”也成为成为其开拓市场的有力支撑,腾讯云在大会现场还发布了企业出海数字化解决方案全景图,覆盖了游戏、社交互娱、跨境电商、消费电子、金融科技、在线教育、汽车出行等七大行业的全球化实践。

邱跃鹏现场还透露,目前,腾讯会议海外会议数已经较年初增长了近50%,比亚迪的员工每个月要在腾讯会议上开一万多场跨国会议。

一 、混元Turbo亮相,700多款产品已接入大模型

云和大模型,正在越来越深度地捆绑到一起。“大模型和云是密不可分的,大模型在云上训练,同时大模型能力通过云向外输出;另一方面,云产品也通过与大模型的深度融合,显著地增强能力。”腾讯集团副总裁、腾讯云与智慧产业事业群COO、腾讯云总裁邱跃鹏说道。

本届大会上,腾讯云首发性能更强、性价比更高的MoE模型腾讯混元Turbo。相比前代模型,腾讯混元Turbo性能有显著提升,训练效率提升108%,推理效率提升 100%,推理成本降低 50%,解码速度提升 20%,效果在多个基准测试上对标GPT-4o,第三方测评居国内第一。

邱跃鹏在会上宣布,混元Turbo已经在腾讯云正式上线,输入和输出价格只有前代模型的一半。

腾讯混元在腾讯云上提供了多种尺寸的模型服务,通过API、专属模型、精调模型等接入和使用方式面向企业及个人开发者全量开放。腾讯混元在云上提供了Turbo、Pro、、Lite等多个版本;在专属模型上开放了代码生成、角色扮演、等;企业也可以通过腾讯云TI平台对腾讯混元进行精调。

腾讯目前已经有700多款产品接入混元大模型,实现用户体验的提升。腾讯全矩阵的大模型产品目前已经在知识管理、智能客服、研发提效、智能营销、内容生成、办公协同、风险管控等落地。

AI infra品牌“腾讯云智算”也正式亮相,这是一个集算存网一体的高性能智算底座。

腾讯云智算整合了腾讯云高性能计算HCC、高性能网络IHN星脉、高性能云存储、加速框架、容器、向量数据库、智算套件等腾讯云优势产品,能够为AI创新输出性能领先、多芯兼容、灵活部署的智算产品能力。

在稳定性和性能上,腾讯云的集群千卡单日故障数已经刷新到0.16,是行业水平的1/3;1分钟就能完成万卡写入,数据读写效率是业界10倍;千卡集群的通信时间缩短到6%,是业界一半。同时,通过整合软硬件技术能力,腾讯云智算集群从机器上架到开始训练可以做到只需1天,相比业界以月为单位也大为缩短。

另外,腾讯云也在大会上发布RAG解决方案,帮助企业结合自身信息知识、快速打造大模型应用。借助腾讯云智能检索(腾讯云ES),企业只要少量代码,甚至几乎不用重写代码,就能一站式构建AI问答应用。腾讯云向量数据库针对企业的多模态数据源,可以提供业界两倍的向量检索性能。

例如,前阵子微信读书上线的AI问书,就是基于腾讯云ES实现了RAG的高效开发和运维,从而为亿级用户提供毫秒级别的高效处理能力。

二 、

六年研发投入超 3000 亿,

全新腾讯云融合产品创新体系亮相

“我们不仅需要硬件突破,也需要软件登顶。”在汤道生看来,基础软件作为数字经济的关键基础设施,其发展水平也关乎国家安全、产业安全。据了解,六年超过3000 亿元的研发投入,支撑着腾讯融合创新产品持续突破,打造更“好用”的国产软件体系。

汤道生在会上首次发布了全新的“腾讯云全栈融合创新产品体系”。具体来说,在基础软件领域,数据库TDSQL、操作系统、专有云TCE、大数据TBDS、人工智能开发平台TI等核心产品(简称“5T”),兼容国内主流的芯片厂商,在多个大规模的集群上稳定运行,落地覆盖金融、交通、政务、互联网、医疗、传媒等多个行业,积累了丰富的融合创新实践。

数据库TDSQL产品能力不断突破,能提供业界领先的高可用、存算分离、企业级安全等能力; ,目前已凭借近 1000 万套的部署规模成为国内部署量最大的 Linux 操作系统;专有云TCE平台全面兼容主流国产化软硬件,支持全栈一云多芯,可满足业内最高等级安全合规要求;新一代TBDS面向数据全生命周期提供全场景的数据服务能力,具备金融级的高性能和高可靠性,同时升级后的TBDS综合性能提升20%。

在产业界最关注的AI大模型领域,腾讯云旗下的人工智能开发平台TI,在训练推理方面全面支持国产AI芯片,兼容国产CPU以及数据库、容器等中间件,并支持异构集群纳管,可自动调度多厂商AI芯片。同时,腾讯云还推动办公应用与国产软硬件生态系统适配。以腾讯会议为例,腾讯会议能够在国产基础设施之上,支持SaaS和混合云部署模式,能够有效兼顾内、外部沟通的灵活需求。

基础软件之外,腾讯的系列自研应用软件如腾讯会议、企业微信、腾讯文档、腾讯乐享等,凭借腾讯产品积累超过20年的用户服务经验,具有便捷的交互体验与服务界面、独特的C2B连接能力。腾讯会议等产品在多个行业头部客户渗透率超过了50%。

“软件产品是腾讯的强项。从服务海量用户的后端技术,到体验便捷的前端交互,我们都有丰富的技术和经验积累。我们希望将腾讯服务10亿用户所积累的技术,助力托稳中国企业数字化发展的云底座,这也是助力中国产业数字化升级的责任和担当。”汤道生在演讲中提到。

三 、

蛋糕不增长就是“零和”游戏

企业增长有三大方向

汤道生在大会上透露,过去一年,腾讯云通过持续聚焦自研,推动被集成,业务更加健康可持续:与伙伴共同服务的客户数,超过200万家;订单过百万的伙伴数量,实现了两位数的增长;很多SaaS伙伴收入增加了1倍多;国际业务增速也在两位数以上。

他认为,很多企业面临内外部多重挑战,甚至陷入“内卷式竞争”,但如果蛋糕不增长,结果就是“零和”游戏。企业增长的核心在于跳出框架,探索产业的新发展。 所以,他提出了企业破局增长的三个方向:

第一个增长方法是以数提效,聚焦核心场景。大模型的调用成本如今已经被降低了很多,不少企业都对大模型有兴趣,但是前期也许对大模型期望太高,而对长期投入的决心与耐心又稍有不足。

“指望大模型给一般企业在短期内带来巨大变化并不现实。用人工智能在已有业务场景中降本增效,提高经营效率,是行稳致远的可靠路径。”

汤道生指出,腾讯在去年迈出大模型第一步的时候,就坚持做“离产业最近的AI”,把AI融入到产业场景中。以腾讯的混元大模型为例,其已经落地到腾讯700多个业务场景中,腾讯的AI能力也在千行百业落地生根。

第二个增长思路是顺势而为,抓住新产业机会。汤道生强调,讲到数字产业的硬科技,大家总会下意识想到芯片、光刻机等硬件,但软件也是信息科技中非常重要的核心组成部分,是新一代科技发展的灵魂。

汤道生说,国家《十四五信息技术规划》,把关键基础软件、云计算、大数据、人工智能等重点软件,列为“信息领域核心技术突破工程”。国产软件技术水平已经与国外领先的软件科技企业对齐,更懂客户,性价比更高,服务更好。

“如果芯片或硬件设备是计算的躯体,那软件就是脑袋。软件往往定义了硬件发展的方向,让硬件设备释放出更大价值。”他呼吁更多元化的开放式软硬科技生态,鼓励多云、多芯的蓬勃发展。

第三个增长机会是扬帆出海,开拓全球市场。相关机构调研显示,90%的中国企业对拓展海外业务有兴趣,有近四分之一的企业,将出海列为未来1到3年的首要任务之一。

但是,选择哪些目标市场?从哪个国家先试水?怎样的产品更符合当地市场的需要?如何与国际化对手差异化竞争?当地的产业政策、税务法规、经营牌照、数据合规的要求如何?如何把国内成功的经营与管理经验快速落地?这些问题都需要出海企业解答。

对此,腾讯云可以提供包括音视频、边缘加速、云原生产品、大数据与数据库、安全与合规、AI等技术产品能力,为中国企业的海外拓展铺平大路。

目前,腾讯云已打造了遍布全球的云基础设施,覆盖五大洲21个地区,拥有3200多个全球加速节点。

四、 “云”助力企业出海,比亚迪每月开一万多次跨国会议

谈及企业出海的新机遇,汤道生认为,以“云”为载体的中国产业经验和科技优势,正在成为企业出海开拓全球市场的有力支撑。数字化作为一种新的资源配置方式,可以帮助企业更加灵活地应对市场变化,优化资源分配,助力在全球竞争中保持优势。

本次大会上,腾讯云首次披露了企业出海数字化解决方案全景图,包括云原生、音视频、边缘加速、大数据与数据库、安全与合规等技术和产品能力,覆盖游戏、社交互娱、跨境电商、消费电子、金融科技、在线教育、汽车出行等七大行业的全球化实践。

其中,腾讯云边缘安全加速平台将服务器的端到端 HTTP/HTTPS 访问时延降低了30%,中国前十大出海音视频社交应用里有八家在用。

腾讯会议的海外会议数较年初增长将近50%,面对全球各地差异化的网络、多语言环境,腾讯会议自研了AI降噪算法、 AI语音引擎,上线多语言实时翻译等功能,助力用户流畅无障碍开会。

据了解,腾讯会议助力比亚迪连接了全球6大洲、30多个工业区。比亚迪的员工每个月要在腾讯会议上开一万多场跨国会议,车型项目组会议、供应链上下游沟通、渠道经销商培训、高管汇报等各类会议都在腾讯会议上召开。

基于扎实的产品与技术能力,过去三年腾讯云国际业务持续保持双位数高速增长,腾讯云发布了国际业务阶段成绩单:

在企业出海方面,腾讯云泛互行业出海业务的增速超过70%,智能制造、新能源汽车等产业出海也快速增长。以美的集团为例,腾讯云提供统一的运维能力可以为美的提供7X24小时的的运维和保障,5年节省30%成本,使其美的全球的19万员工约200多家子公司也能够实现无缝高效协同。

在海外本地化服务方面,腾讯云在亚太地区增长同比超过50%,在中东地区收入同比增长高达85%。印尼最大电信运营商之一已在试点腾讯云的掌纹识别技术,该技术将被用于包括安全管理在内的多项应用。

在外企入华方面,腾讯云持续助力阿斯利康、赛诺菲、奔驰、博世、丰田、宝马等在内的40多个财富五百强级别海外企业入华案例。腾讯云正建立一个高度协同的全球技术网络,搭建了包括菲律宾、马来西亚、新加坡、日本、韩国、美国和德国在内的9个技术支持中心,提供7×24小时技术服务。

得益于在产品和服务等领域的长期投入,过去三年,腾讯云国际业务持续保持双位数高速增长,正在成为腾讯云新增长引擎,目前已经累计服务超10000家海外客户,覆盖超80多个国家和地区。

五、结语:AI大模型产业落地加速,数字化成为增长新引擎

如今,产业界对AI大模型的关注重点已经从模型技术本身,转到智能应用落地上。用人工智能在已有业务场景中降本增效,提高经营效率,是行稳致远的可靠路径。而对众多企业来说,数字化已经成为了他们探索产业的创新增长的核心引擎。

腾讯云正在通过构建全链路的大模型产品矩阵,来帮助企业以数提效。从底层基础设施、帮助企业训练专属模型的TI平台和行业大模型解决方案,再到自研的混元大模型、构建应用的平台工具,以及基于大模型的各类智能应用,大模型的落地场景正在不断变得更丰富、更纵深。

GPT