首页AI 新闻
显卡:AI时代的“硬通货”
26

显卡:AI时代的“硬通货”

麦满分
麦满分
2023-08-09 18:23

除了构建AI,有些公司利用积攒的H100作为货币去换取……猜猜看?更多的GPU!

还记得Infosys初创时期,Narayan Murthy和他的团队试图进口一台计算机时的困难吗?现在在生成AI领域,同样的事情再次发生,但这次用的是GPU。

如果你去问AI领域的人,他们会告诉你他们有多喜欢他们的GPU。以前,如果有人给一家公司一台计算能力比现在大10倍的计算机,它可能不知道该怎么使用。但现在,每个公司只想拥有尽可能大的集群,至于怎么用?那是以后得事情。他们会因为拥有的计算机数量而获得更多的资金。

现在,除了训练AI,有公司已经将积攒的H100作为货币,用来换取……猜猜看?更多的GPU! CoreWeave,这家得益于NVIDIA和Magnetar Capital支持的云计算初创公司,已经成功地通过自己拥有的令人羡慕的H100 GPU的数量,获得了一笔23亿美元的债务安排。该财务操作背后的主要目标就是获取额外的高级芯片并资助其他战略项目。

现在产生了这样一种情况:即NVIDIA自家的产品被用作抵押物以方便购买更多可能来自NVIDIA库存的产品。挺令人惊讶的,对吧?

CoreWeave本是为了挖掘以太坊而建立起来,他们是通过使用NVIDIA的GPU来实现挖矿的。现在,这些相同的GPU正被调整用作运行AI的云基础设施。

AWS Lambda也是如此。CEO Stephen Balaban表示:“Lambda在今年年底前还要再上线几千个H100——如果你需要64个H100或更多,请私信我。”此外,Elon Musk也已经囤积了1万个GPU去打造他的AI公司。

NVIDIA已经在全球范围内为几乎每一家AI公司提供了资金。可以说,除了通过公司的AI获利外,NVIDIA这么做还是为了让这些公司能够向他们购买H100 GPU。与此同时,这些公司对他们得到的资金数额十分满意,这使他们能够构建大规模的AI产品。大部分公司对他们所需要的计算量不会设定一个硬性上限——计算量越多越好。

你的GPU今天为你做了什么?

GPU的短缺并非笑话。据Andrej Karpathy称,“谁能得到多少GPU”是现在硅谷的头条八卦。这背后的一切,都有NVIDIA说了算。

Karpathy曾经说过同样的事情:“今天,你可以花钱买FLOPS。明天,你可以用FLOPS来花钱。”这一观念日益得到验证。就连Sam Altman也在几小时后发帖称他整天都在想的就是FLOPS。

但另一方面,用GPU作为抵押的债务标的则是一件有趣的事。而且当我们想到这种短缺只是暂时的时候,它就变得更有趣了。NVIDIA已经宣布,它将发布新的 GH200 GPU,这将比当前的H100强大近三倍。GH200将在2024年第二季度上市。

在那之前,积累H100对于AI公司来说成了保护壁垒。

但是这种情况要到明年才会发生。即使到那时,人们仍然会使用H100来构建AI模型,就像开发者还在使用消费级GPU来构建AI模型一样。

因此,现在看来,GPU就像市场上的新美元。由于没有人能再购买GPU,科技公司正在互相交换GPU来构建AI产品。这就是GPU目前在科技领域的作用——即使不使用它们,也能赚钱

全部讨论