近期, 科技巨头英伟达和微软之间出现分歧。 根据消息,主要原因是英伟达要求微软在采购服务器机柜时必须向其公司购买,但却遭到微软拒绝,分析师指出两大原因:一是太贵,二是无法与其他厂商的GPU(如AMD的MI300X)互通。
据报导,英伟达对于如何在服务器机房安装最新 Blackwell 架构「B200」GPU,跟 AI 大客户微软有些争执。
英伟达副总裁Andrew Bell希望微软能采购专为B200 GPU设计的服务器机柜,因为B200的构型跟微软数据中心使用中的机柜有几英寸差异。
然而,微软拒绝接受英伟达建议,英伟达最终让步,允许微软使用自家定制服务器机柜来安装B200 AI GPU。
值得注意的是,英伟达一直在积极推动整体解决方案的概念。 英伟达CEO黄仁勋曾表示,他们已不再单纯考虑独立的GPU,而是将整个NVL72服务器机柜当作一个整体GPU来看待。 英伟达希望客户能够直接向其采购包括机柜、服务器等在内的完整人工智能数据中心解决方案。
英伟达称这样的整合方式可以提升 GPU 效能,因为可以更好地优化连接。 然而,微软最终拒绝了英伟达的建议, 选择继续使用自有的定制化机柜来安装英伟达的 GPU。
分析人士认为,这恐非英伟达和微软之间最后一次争议。 因为英伟达最新 Blackwell 架构 GPU 以及整套解决方案的价格都较高,这势必会大幅增加微软等大客户的成本。
值得注意的是,英伟达的MGX模块化系统同时支持OCP的开放式服务器机柜Open Rack(21寸),以及美国电子工业联盟制定的标准19寸机柜。 微软似乎使用较先进、密度较佳的OCP机柜,且该公司现有的基础设施许多仍运作良好,现在就将之全部升级、成本势必相当高昂。
资深科技专栏作家Tae Kim指出,英伟达顶级的GB200服务器机柜可能高达300万美元。 这无疑会对微软等大规模部署人工智能基础设施的客户造成沉重负担,未来双方恐怕还会在此问题上再次发生冲突。
英伟达 GPU & 服务器机柜价格估算
分析师估计,英伟达最新Blackwell架构GPU将比Hopper架构更昂贵,由两颗B200 Blackwell GPU及一颗Grace CPU组成GB200超级芯片价格来看,约7万美元。
资深科技专栏作家Tae Kim指出,汇丰估计,GB200均价将介于60000~70000美元,入门款的B100均价则介于30000至35000美元之间。
基于英伟达设计的服务器昂贵许多。 根据Tae Kim推文,汇丰估计,英伟达GB200 NVL36服务器机柜(拥有18颗Grace CPU及36颗先进B200 GPU)均价或许将达180万美元,而英伟达GB200 NVL72服务器机柜(拥有36颗CPU、72颗GPU)均价可能在300万美元左右。