8月19日消息,近日,《巴伦周刊》资深作家Tae Kim在社交媒体平台上写道,据投行瑞杰金融(Raymond James)估计,每枚英伟达H100芯片的制造成本为3,320美元,而给客户的售价却高达25000至30000美元。
知名科技媒体Tom‘s Hardware称,这份报告意味着对英伟达公司来说,H100芯片的成本利润率高达1,000%,即十倍。由于不清楚瑞杰金融的成本分析有多深入,英伟达可能还需要在其他方面支付额外的费用,但费用空间是比较大的。
据了解,H100是目前训练大语言模型最需要的图形处理器(GPU),因为它对于大模型的推理和训练都是速度最快的,通常也是推理方面性价比最高的。它可以应用于各种AI场景,如AI聊天机器人、推荐引擎、视觉AI、数据分析、高性能计算等。
H100芯片还可以搭配英伟达AI Enterprise软件套件,为企业提供端到端的AI就绪型基础架构。英伟达CEO黄仁勋将其描述为“世界上第一款专为生成式人工智能而设计的计算机芯片”。
报道指出,产品开发需要时间和资源,在得出最终的平均产品开发成本之前,英伟达的研发成本也必须考虑在内。
这一类别包括工程师和其他参与H100等产品开发生命周期的人员。据匿名评论平台Glassdoor的数据,英伟达电子硬件工程师的平均年薪约为20.2万美元,而开发H100等芯片很可能需要数千位这样薪资水平的专业人员。
但即使这样,“十倍成本利润率”也足以令人叹为观止,凸显了公司充分享受到了AI时代“卖铲人”的超额红利。然而,H100的供应却十分紧张,据称英伟达的订单量已经排满到2024年,但这一消息尚未得到公司的确认。
本周,沙特和阿联酋被曝正在“疯狂下单”英伟达的AI芯片。知情人士透露,沙特已通过公共研究机构阿卜杜拉国王科技大学购买了至少3000枚H100;阿联酋也已经确保自己将获得数千枚芯片。
上周还有消息称,百度、字节跳动、腾讯和阿里巴巴等互联网巨头在争相购买英伟达的高性能芯片,订单总和价值高达50亿美元。先前,OpenAI CEO山姆·阿尔特曼和特斯拉CEO埃隆·马斯克也先后抱怨GPU不够用。
周一,摩根士丹利分析师Joseph Moore表示,他依然看好英伟达公司的股票,并将其视为“首选”(top pick),目标价为每股500美元。
Moore提到,英伟达定于美股8月23日盘后(北京时间8月24日凌晨)公布业绩,“尽管供应紧张,我们仍然预计业绩会显著超越预期并获得上调,更重要的是,未来三至四个财季的业绩会有很强的可见性。”