山姆奥特曼晒出 o1 与 GPT-4o 数值差异,o1 模型成绩亮眼

aixo 2024-09-14 02:17:20
大模型 2024-09-14 02:17:20

在具体的能力对比上,山姆奥特曼晒出了o1与GPT-4o的数值差异:在数学竞赛中GPT-4o得分为13.4,o1得分高达83.3;编程竞赛中,GPT-4o得分为11.0,o1得分高达89;差异较为不明显的则是博士级别科研问题,GPT-4o得分为56.1,o1得分为78.0,相比之下科研人员的得分是69.7。

山姆奥特曼在社交平台贴出的对比图。

在官方技术文档中表示,以目前o1模型的成绩,在美国数学邀请赛上可以排名进入美国前500名。

此外,o1-mini也展示出了不俗的实力,科学研究员赵生家(音)发文称,该款大模型在运行成本更低的情况下,还能实现70% AIME(美国数学邀请赛)正确率和(一个程序员在线竞赛平台)Elo评分1650(专家级水平)的成绩。山姆奥特曼则在赵生家的推文后评论,“你们做出了令人难以置信的工作,这款模型的性价比非常好。”

值得注意的是,在此前达摩院举办的2024阿里巴巴全球数学竞赛初赛中,AI队伍未能达到决赛入围分数线,统计显示,参赛AI队伍的平均分已达到了人类选手平均水平,但离数学高手仍有较大差距。不知此次更新o1后,人类与AI在数学能力上的差距是否会有所缩短。

“可以推理复杂的任务”的大模型是如何炼成的?思路链功能揭秘

那么,是如何“补足”大语言模型天生的数学短板的呢?

该公司在官网表示,“我们训练这些模型在问题做出响应之前花更多时间思考问题,就像一个人一样。通过培训,他们学会完善自己的思维过程,尝试不同的策略,并认识到自己的错误。”

根据披露的官方技术文档,o1在尝试解决问题时会使用一系列思路链(chain of ),“通过强化学习,o1学会了磨炼其思路链并完善其使用的策略。它学会了认识并纠正错误,将棘手的步骤分解为更简单的步骤。如果当前方法不起作用,它会尝试另一种方法,这个过程极大地提高了模型的推理能力。”

官方技术文档中展示的“思路链”(右图)与原回答的区别。

的技术文档在密码、数学、编码、字谜、语言、科学等多个维度展示了“思路链”能力。如在语言的案例中,展示了大模型对一段阅读理解的回答,对该问题,GPT-4o会直接选择答案A,而o1-则经过“思路链”分析了从A到E总共5个选项,最终选择了D。

开源证券研报分析认为,本次o1系列模型问世,代表着模型能通过RL在除训练侧之外的推理侧,引入“思路链”等新技术的方式提升模型的性能,为科学、数学、编码等专业领域提供更准确的答案,这或是生成式AI发展的重要拐点。

新京报贝壳财经记者 罗亦丹

编辑 岳彩周

校对 吴兴发