OpenAI 断供国内 API 调用,行业地震为何未如期而至?
“雷声大,雨点小”,AI创业者张庆这样形容将从今年7月9日阻止国内API(应用程序接口)调用的通知。
在他看来,尽管“国内2023年头部的大模型产品,一半以上都是'套壳'(即调用开源大模型API提供服务,而非自研模型)”,断供的调用,并未迎来想象中的行业地震。
实际上,早在2024年6月,就职某AI创企的前端开发傅涵,便将产品调用的大模型,从GPT更换为了。
5月在产品刚刚上线调试时,傅涵选择调用GPT 4.0。毕竟相比国产大模型,调用的“价格相差无几,但处理速度更快,反馈结果更好”。
但5月过后,大规模调用的高成本之下,随着国产大模型开始0元购,傅涵发现,“国产大模型的文本处理在一定范畴内已经不输GPT 4.0”,面对几十倍、甚至上百倍的差价,傅涵花了两周,就将接口转向了国产大模型。
巨大价格差异带来的诱惑,无疑让AI创业者们“真香”。“同样100万的(大模型文本最小处理单位),大概能供100个用户使用5个月,购买GPT 4.0,需要100元,但国产大模型只需要一元钱。”傅涵告诉字母榜(ID:),如今在头部大模型厂商的价格战之下,国内的AI创业者使用国产大模型,单月的成本相比起调用GPT 4.0,可能相差上百倍。
随着将断供的消息传出,大厂们纷纷出动,开始“截胡”开发者。截至目前,包括智谱AI、零一万物、月之暗面、百川智能、商汤科技,以及百度、阿里、腾讯等,均已推出了零成本迁移计划。同时部分大模型厂商,还贴心地附赠1千万乃至1亿。
“现在国产大模型的SDK都是兼容格式的,即使切换也不过几行代码的事情。”傅涵表示。
不过,对于急着商业化、想借此抢夺套壳用户的国产大模型来说,它们还面临着背后的东家微软云的竞争。
有微软云员工告诉字母榜,全球包括中华区的微软云员工,2024年都会重点推这一项目,而目前,通过微软云 Azure接入技术服务的企业,仅在中国,每天都有流量的企业超过3000家,注册用户上万,这其中就包括腾讯、字节、华为等大厂。
这波热度,对于国产大模型来说,蹭上容易,但吃到嘴里还有点难。
断供冲上热搜之下,靠着套壳“吃饭”的AI创业者们,却颇为冷静。
“通过微软云,7月9号之后,也可以用中国IP访问,只要从微软官方渠道选定代理商签署三方协议,就能用Azure企业账号自助申请Open AI服务。”上述微软云员工告诉字母榜。在北京,可以选择昆联,在深圳有硕软等公司,这些微软的代理商价格也完全统一。
作为实际上的大股东,微软云早就盯上了中国市场。“在爆火前,微软云已经在中国发展起了庞大的ToB生意,微软做ToB的相关资质,也已经储存在各大公司的知识库里,”张庆表示,如今从微软云购买 的接入服务,甚至不需要在原本的ToB业务上额外进行支付。
2023年,趁着的热度,张庆接入,做了一款AI占星的小程序,“每天几十个新用户付费”,利用提醒每日运势、提供恋爱占星分析,随着用户数增加,访问激增,“的节点在国外,一到高峰期,访问速度就会慢下来”,这也促使张庆在2024年6月,成为了微软云的企业用户。
想在国内接入,只需要注册企业版账号,满足每月至少消耗1000美金的门槛,按照一年12000美金的费用,提前支付3年,即美金(约25万元人民币)。而由于张庆在香港注册了分公司,他还可免去6%的相关税务。
不同于张庆,在产品5月上线初始,傅涵为一款交通安全方面的AI产品接入接口,而除了不稳定的节点之外,价格也成了仍在冷启动阶段的AI创业者们,必然的考量因素。
“之前大模型没降价的时候,调用的价格和使用国内大模型几乎没有差别,而现在,国产大模型和的价格差,已经达到了几十倍,甚至上百倍。”傅涵告诉字母榜,在产品刚刚上线时,经过测试,GPT 4.0最符合产品的响应需求,而尽管国产大模型的反馈精准度、响应速度“不如GPT 4.0”,国产大模型降价之后,他还是选择了切换模型。
猛打价格战的国产大模型,靠着成为“平替”吸引着市场上的AI企业和套壳用户们。“据我了解,字节大模型已经便宜到了离谱的程度,如果做一些小场景,用字节的大模型,成本也很合适。”傅涵表示,测评了市面上的国产大模型后,在“不对输出结果有过高期待的情况下”,仅满足日常对话和处理要求,便宜大碗,“100万 才1块钱,还能兼容的SDK格式”,则速度很快,适合特定需要速度的场景,Kimi在便宜之外,适合需要输出长文本的应用场景。
成为平替,正在成为国产大模型们争夺的下一个场景。
在被国产大模型平替之前,,一度是国内AI创业者的不二之选。
“准备好个体执照、服务号认证、域名,租一台国内服务器,一台国外服务器,大概2000块就能做一个套壳的小应用。”张庆道。
2023年,在热度正劲的当口,还未翻车的李一舟,199元的“每个人的人工智能课”售出了25万份,不仅撑起了AI知识博主李一舟们,也撑起了赶来套壳的张庆们。
一年内,张庆从AI占星到AI合成照片,连续推出了近10款套壳小程序。每款小程序,张庆只需要利用的API接口,就能完成占星的牌面解读,图片的后期合成。
借助小红书、抖音等社交平台,张庆会去社交平台发安利贴、去抖音做节奏混剪,还会去AI博主的账号评论下做“截流”,即“在评论区,假装普通用户,种草xxAI很好用。”
在张庆的操作下,每天会有300-400个用户进入他的小程序,按照5%的付费率,每月30-50元的会员费用,就能把成本几元钱的API账号卖给几百人,张庆的利润率能达到100%,单日收入过万“轻轻松松,哪怕只有几千粉丝,一天也有固定上百元的利润”。
最火爆的时候,张庆准备了3个以上的个体执照,“交易量大了容易被系统拦截风险,我都会准备3个以上的执照轮替支付。”
2023年,在国产大模型奋起直追,无瑕推出AI应用的同时,张庆这样借用端口,2-3个人就能日入过万的小作坊,赚的可谓盆满钵满。
在2024年创投十年高峰论坛上,金沙江创投主管合伙人朱啸虎指出,北欧的,通过“套壳”,优化了电话中心客服端,减少了700个客服岗位,给企业带来了每年4000万美金(近3亿元人民币)的利润增量。
而作为AI搜索头部应用,2022年12月推出的,也一度依赖的 GPT 3.5模型,对此, CEO 则直言,“拥有十万用户的套壳产品,比拥有自有模型却没有用户更有意义。”
不过,随着大模型厂商开始推出APP应用,包括字节豆包、腾讯元宝、 海螺AI等等应用,张庆们的好日子也到了头。
2024年5月前,张庆的一个小程序“每天至少能有数百名新用户,付费用户几十个”,而随着大厂集成式的APP一推出,张庆小程序的新增用户面临断崖式下跌,“在小程序里需要付费才能生成的图片,大厂可以直接免费,而且功能场景做得更丰富,”相比之下,张庆仅仅针对某一功能开发的小程序,显得颇为鸡肋,也正是因此,现在“每天进入小程序私域的用户数量基本砍半。”
即便是张庆擅长的抖音等引流平台,也早已成了字节豆包的天下,更不用说把海螺AI的广告甚至打到了虎牙、斗鱼,面对砸钱推应用的大厂,张庆直言“扛不住”。
不管是通过微软云接入,还是切换国产大模型,对于套壳大模型的AI创业者来说,2023年爆红带来的流量红利正在消逝,已是确定的事实。
在2023年,张庆某个展示AI合成图片的混剪视频在抖音成了爆款,“视频发布当天,就有近千人涌入了小程序私域,连续一周的日流水都过2万元。”但如今,随着AIGC从新社交货币变成“老话题”,张庆明显感受到,“在抖音上同类的AI产品越来越多,但流量却越来越差。用户没有新鲜感了。”
2024年,从妙鸭到元宝,00后的黄章告诉字母榜,之前,每有一个新的AI大模型或者AI应用发布,她都会下载尝试,第一次使用绘图,她兴奋地发了3篇小红书笔记。而随着大模型狂飙到200多个,字节、腾讯、阿里、百度都推出了自己的大模型应用,黄章既难以分清这些大模型有哪些具体差异,又愈来愈兴趣缺缺,最后“都是试用后就很少再打开”。
即便是套壳的经典产品,如PDF.ai,其创始人 Damon Chen在2023年12月仍发帖称PDF.ai 营收已经突破 6 万美元,随后2024年2月,Adobe官方不仅直接在产品内集合了AI功能,同时还砸钱将PDF ai 的相关关键词买了下来。
仅仅一年半,的API红利,便已经消退。随着国内大模型底层能力提高,头部大厂们纷纷挤入AI应用层,争抢仅剩的流量,对于此前套壳的开发者来说,他们的产品、运营面临着更高的要求。试图基于某个开源大模型的微调做出“大爆款”的可能性越来越小。
“可以考虑针对企业自身业务的特定场景去做模型,”傅涵表示,对于开发者来说,拥有自己开发的模型,无疑能把稳定性和主动权全掌握在自己的手里,避免出现访问限制等等不可控的意外因素。
不过,拿了700万元的天使投资,从某头部大厂出走创业的Bruce告诉字母榜,目前他们正在开发自己的AI旅游规划产品。在产品开发期,项目的设想也要基于“大厂会不会做”。一开始,基于合规需要,他就选择了接入国内大模型(智谱清言、通义千问),但即将进入产品冷启动阶段,他最焦虑的仍是,“到底有没有用户去使用?怎么让更多的用户知道这款产品?”
不同于家大业大的大厂,在@小布Bruce的账号内,Bruce表示,初创AI公司往往没有多余的人力和成本可以投入,最好去找到大厂不会做,或者做得不够精细的需求场景。但“投资人的耐心已经不够了”。上线后加速奔跑成为了Bruce们的必然之选。
不过,争着成为平替的国产大模型,日子也并不好过。
“去年还在专注提升文本处理的月之暗面,今年招聘了不少字节的人去做增长,还是移动互联网的打法,”Bruce表示,“大厂的商业化焦虑也不少。”
断供在即,某头部大厂AI业务的员工则告诉字母榜,“公司股价降了,口碑更差了”。显然,没有了的竞争,大厂们想要赢得更多用户认可的难题,仍未减少。
(文中傅涵、张庆、黄章为化名)
本文来自微信公众号,作者:马舒叶,36氪经授权发布。