仁宝今日指出,参与英特尔Data Center&AI,展示最新服务器产品,包括SR230-2和SD230-8.可满足数据中心需求,提供卓越效能、可扩展性及可维护性,为高效能运算及AI工作负载提供强而有力的支持。
仁宝表示,AI应用与日俱增,使用GPU训练大型语言模型时,可扩展性及大量能耗成为一大瓶颈。 相比之下,CPU以其高效能与能效,成为较小语言模型及数据准备、数据传输至GPU进行并行处理,
仁宝的SR230-2和SD230-8搭载英特尔Xeon 6处理器,拥有高性能核心和性能核心的双重架构设计。 E-cores 提供卓越的每瓦性能,P-cores 则针对 AI 及 HPC 等工作负载提供极致性能。
SR230-2配备最多128颗处理器核心,提供最多5倍的AI推理性能,且搭载高涡轮频率,加速模型训练的时间,且透过最高504MB的L3快取,以确保低延迟并能快速存取数据库。
SD230-8则可提供最多2倍的HPC性能,并采用MRDIMM技术,推升AI推理性能最多达5.5倍。 此外,还搭载英特尔先进矩阵扩展技术,可提升深度学习、训练及推理性能,其中,在自然语言处理、推件系统与图像识别等应用中表现出色。
仁宝表示,两款服务器在 AI 推理、HPC 及能源效能上的亮眼表现,可以推动企业的数字化转型,进一步提升营运效率、创造更多价值。