当地时间12月2日,英伟达参加了瑞银全球技术与AI大会。英伟达CFO科莱特·克雷斯(Colette Kress)接受了瑞银分析师提问并谈及英伟达与OpenAI等大模型公司的合作关系。

9月,英伟达宣布向OpenAI投资最多1000亿美元,英伟达将帮助OpenAI部署至少10吉瓦的数据中心。关于双方合作的细节,科莱特·克雷斯表示,英伟达与OpenAI的协议是一种超过十年的合作关系。今年及明年英伟达看到Blackwell及Rubin系统的需求约5000亿美元,其中包括OpenAI通过云服务提供商来满足计算需要。但这5000亿美元不包括英伟达与OpenAI协议下一阶段进行的工作。英伟达和OpenAI尚未敲定最终的协议。

英伟达CFO:云厂商收入占比一半以上,大模型厂商正寻求直接合作

宣布投资OpenAI之后,英伟达又宣布投资大模型厂商Anthropic,合作也涉及Anthropic采购计算资源。两个合作背后,科莱特·克雷斯提到,大模型厂商除了希望通过云厂商采购计算资源,也希望与英伟达直接合作。

“未来OpenAI希望专注于直接与英伟达合作构建计算基础设施。”科莱特·克雷斯表示,英伟达与Anthropic的合作目前是通过云服务厂商来进行的,但Anthropic不仅对云服务厂商提供算力这个方式感兴趣,还考虑未来与英伟达直接达成1吉瓦算力的合作。

但科莱特·克雷斯也强调,目前大模型厂商中大多数仍是英伟达的间接客户,通过CSP(大型云厂商)使用英伟达的产品,在相当长的一段时间里,英伟达每个季度的收入中都有50%或以上来自大型CSP。

多数AI初创企业尚未盈利,需要筹集大量资金支撑自身发展,同时却有大量的算力采购需求,这种状况对英伟达而言是否有风险?

“超大规模云服务商为其内部使用购买计算资源,或为了向加速计算转型而进行这些工作。模型开发者也确实需要更多计算资源,但他们必须回答这些问题:是否获得了足够的盈利?能筹集到更多资金吗?需要多少新的计算资源?这个过程还在进行中。”科莱特·克雷斯表示,英伟达的很多工作都着眼当下、明年以及后年,以确保有足够的计算能力可供这些模型所需。英伟达在供需方面重点关注的是自身的竞争力、客户是否有支付的能力。

近期来自谷歌TPU(张量处理器)的竞争受到外界关注。摩根士丹利近日将谷歌2027年TPU产量预测从原先的约300万块上调至500万块。

科莱特·克雷斯也回应了行业竞争。她表示,英伟达产品的独特之处是能用于任何工作的负载、用于任何类型。多年以来,人们一直在讨论能否做一些类似英伟达CUDA的事情,但看起来不太成功。当GPU迭代时,CUDA能向前和向后兼容,客户购买硬件后,英伟达还会改进软件,使整体性能变得更强,这就是为什么硬件被购买后计算性能还能优化。如果说Blackwell相比上一代架构性能提升了10~15倍,其中可能就有2倍是来自软件优化,这是一个很大的提升。

就英伟达交付产品主要是用于替换数据中心中的旧GPU,抑或作为现有计算设施的增量,科莱特·克雷斯则表示,大部分以往已安装的计算基础设施仍在运行,一些前代架构的芯片仍被使用。“我们看到的情况是,先进的新模型希望迁移到最新一代硬件上。他们将模型迁移到新的芯片架构上,同时保留现有的基础设施。因此,到目前为止,能看到在美国乃至全球的大部分部署都是新建计算设施。”她表示。

科莱特·克雷斯也回应了客户购买英伟达产品后运行推理工作负载的投资回报情况。她表示,推理模型正在进入市场,会看到越来越多基于Blackwell架构的模型。当更多token(词元)被生成、用户越来越多且用户可能为token付费,利润空间正在被创造出来,这反过来又推动了更多的计算资源投入。

英伟达10月底成为史上首个市值突破5万亿美元的公司,但股价近期有所回调,有投资者质疑美国科技公司之间的循环交易并认为真正的算力需求量不高。12月2日,英伟达涨0.86%,市值4.4万亿美元。

(本文来自第一财经)

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com