首页 > 热点资讯内容详情

巨头ChatGPT大战陷败局,竟因嫌GPU太贵!Meta用CPU跑AI,点错科技树 2023-04-26 16:05:41

【新智元导读】小扎All In元宇宙两年后,忽然发现全世界都在搞生成式AI。这可尴尬了,自家公司还在用CPU做AI推理呢……

ChatGPT大战,Meta为何迟迟没有动作?

就在今天,路透社记者挖出了一个大瓜,原因让人瞠目结舌——

相比谷歌、微软等大厂,Meta跑AI时,用的竟然是CPU!

很难想象,在深度学习几乎占机器学习半壁江山的时代,一个科技巨头竟然能用CPU坚持这么久。

虽然他们也曾尝试过自研AI芯片,但最终遭遇滑铁卢。

现在,ChatGPT引爆的生成式AI大战打得昏天黑地,这就更加剧了Meta的产能紧缩。

用CPU训练AI,Meta怎么想的?

Meta迟迟不肯接受用GPU的原因,令人匪夷所思。

GPU芯片非常适合AI处理,因为它们可以同时执行大量任务,从而减少处理数十亿条数据所需的时间。

然而,GPU 也比其他芯片更昂贵,英伟达控制着80%的市场份额,并在配套软件上,也保持着绝对的领先地位。

直到去年,Meta在处理AI工作负载时,主要使用的还是CPU。CPU是计算机的主力芯片,几十年来数据中心用的也是CPU,但它在AI工作上表现并不佳。

据悉,Meta还曾自研芯片,在内部设计的定制芯片上进行推理。

但在2021年,Meta还是失望地发现,比起GPU,这种双管齐下的方法速度更慢、效率更低。而且GPU在运行不同类型的模型上,远比Meta的芯片更灵活。

而且,小扎决定All In元宇宙这一举措,也直接榨干了Meta的算力。不管是AI的部署,还是威胁的应对上,都遭到了极大的削弱。

这些失误,引起了前Meta董事会成员Peter Thiel的注意,随后,他于2022年初辞职。

据内部人士透露,在离开前的一次董事会会议上,Thiel告诉小扎和高管们,他们对Meta的社交媒体业务太自满,并且过分关注元宇宙了,这让公司很容易被TikTok的挑战所撼动。

Meta粗大事了

在去年夏天快要结束的时候,小扎曾召集了高级副手们,花了五个小时,对Meta的计算能力进行分析。

他们需要知道,在开发尖端的AI方面,Meta有多大的能力?

出来的结果,让所有人倒吸一口凉气。

根据9月20日的公司备忘录显示,尽管Meta对AI研究进行了大笔高调的投资,然而主要业务需要的AI友好型硬件和软件系统都非常昂贵,在这些方面公司的进展相当缓慢。

缓慢到,已经阻碍了Meta跟上大规模创新的步伐。

这可是个棘手的大麻烦,要知道,Meta的增长,越来越依赖AI。

基础设施负责人Santosh Janardhan强调,无论是开发AI的工具,还是工作流程,Meta都已经远远落后于其他对手。

「Meta需要从根本上改变物理基础设施设计、软件系统和提供稳定平台的方法。」

一年多来,Meta一直在搞的大项目,就是希望完善AI基础设施。但经历过产能紧缩、领导层变动和废弃的AI芯片项目后,Meta的改革似乎不尽如人意。

所以,Meta彻底放弃AI芯片了?

对于外媒的这个提问,Meta发言人Jon Carvill表示,公司「在大规模创建和部署最先进的基础设施方面有着良好的记录,并有着人工智能研究和工程方面的深厚专业知识。」

「随着我们为应用程序和消费产品系列带来新的AI体验,我们有信心继续扩展基础设施的能力,以满足我们的近期和长期需求。」

总之,没有正面回答。

但这次改革,已经耗费了大量的人力物力。

据悉,改革使Meta每季度的资本支出增加了约40亿美元,几乎是2021年支出的两倍。而且Meta此前建设4个数据中心的计划,也因此暂停或取消。

相关标签: 巨头ChatGPT大战陷败局 竟因嫌GPU太贵 Meta用CPU跑AI 点错科技树

发布评论