市场传出,美国亿万企业家马斯克透露,旗下人工智能新创xAI计划打造一座超级计算机、支持AI聊天机器人「Grok」的下一代版本。
路透社、Tom's Hardware引述The Information 25日报导,马斯克5月在对投资人进行的简报中揭露,Gigafactory of Compute」预计明年秋季结束前上线,xAI会跟甲骨文合作开发这款超级计算机。
马斯克指出,最新超级计算机将使用最多100000颗英伟达” H100」绘图处理器,为现有最大GPU集集的至少四倍大。
据报道,马斯克称他个人会负责让这款超级计算机准时上线,因为该项目对开发大型语言模型至关重要。
今年稍早,马斯克曾说,训练Grok 2模型需要约20000颗H100 GPU,而Grok 3及之后世代的模型将需要100000颗H100 GPU。
英伟达财务总监Colette Kress 5月22日曾在财报电话会议说,Facebook母公司Meta Platforms宣布推出最新大型语言模型「Lama 3」,使用了24000颗H100 GPU,是第一季度(2-4月)期间的最大亮点。 她提到,大型云计算提供商约贡献英伟达数据中心44~46%左右的营收。
英伟达CEP黄仁勋 5月22日也在电话会议表示,「这一季Hopper的需求仍在加温..... 预测需求仍会有段时间超出供给。」
黄仁勋22日并在财报电话会议表示,今年Blackwell有望带来非常多营收。 Blackwell预定在英伟达第二季度(5-7月)出货、Q3扩产,客户Q4底前即可在数据中心安装这些最新芯片。