总是给市场灌输“(英伟达芯片)买得越多、省得越多”的黄仁勋正在面对一个挑战:客户们现在知道买最新一代的芯片能“省更多”后,开始停止下单当前仍在售的最强算力产品了。
根据周二的最新消息,全球最大云计算平台亚马逊云服务(AWS)已经暂停采购英伟达在售的最强大算力芯片(Grace Hopper超级芯片),以等待今年晚些时候上市的最新型号。
亚马逊是怎么想的?
亚马逊云服务的想法并不难理解:再过几个月英伟达的新一代数据中心GPU就要上市了,性能翻倍、能耗还大幅下降。
在今年3月的GTC大会上,英伟达刚刚发布新一代Blackwell架构GPU。而股民们更加熟悉的H100则是Hopper架构GPU,在那个时间点才刚开始向客户发货1年左右。
(由2个B200芯片和Grace CPU组合而来的GB200 Grace Blackwell超级芯片,来源:英伟达GTC)
用黄仁勋自己的话来说,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用GB200 Blackwell GPU,只需要2000张,同样跑90天只消耗四分之一的电力。除了训练大模型外,生成Token的成本也会随之显著降低。
(新款芯片能效大幅提升,来源:英伟达GTC)
更大的差异在系统性能层面。黄仁勋介绍称,在1.8万亿参数的GPT-MoE推理性能层面,Blackwell集群的性能可以达到Hopper集群的30倍之多。
亚马逊云服务对媒体表示,公司已经“完全转移”了之前对Grace Hopper超级芯片的订单,替换为接下来要上市的Grace Blackwell。AWS强调,考虑到这两代芯片间隔的时间很短,这一举措是“合理”的。
英伟达方面拒绝对这一报道发表评论,称需要在周三发布财报前遵守静默期的规定。
会有影响么?
对于周三盘后的英伟达财报,目前市场的预期是营收继续增长至245.9亿美元。作为对比,英伟达在上一财年同期实现营收71.92亿美元,而上一个财季的营收为221亿美元。
真正能影响股价的,依然是英伟达对这种翻倍增长势头能延续到何时的展望。而现在又加入了一个新鲜的不确定性——随着越来越多的客户开始等待Blackwell芯片上市,今年是否会出现一段时间的营收增速停顿?
在今年的剩余时间里,Blackwell芯片的产能将不断爬坡,目前市场的主流预期是英伟达将在今年四季度开始交付新一代服务器。花旗集团分析师对此指出,随着去年以来等待英伟达交付产品的时间缩短后,AI芯片的需求可能会出现“潜在的空档期”。
或许也有巧合因素,英伟达的股价前高正是在Blackwell芯片发布后创造的,之后经过持续三个月的震荡,直到最近才刚刚摸回前高附近。
(英伟达日线图,来源:TradingView)
当然,从另一个角度来思考,现在的英伟达也远远没到需要考虑“芯片滞销”的地步。摩根士丹利的分析师们表示,即便英伟达上一代芯片的供应变得更加充足,但现在仍能看到新的云、企业和主权国家客户正在买入市场上所有可及的Hopper芯片。