亚马逊旗下AWS今日举行2024 re：Invent，公用运算资深副总裁Peter DeSantis宣布推出全新Trainium2 UltraServer，共搭载64颗Trainium2.相较先前最多仅能搭载16颗Trainium2大增3倍，整体HBM 容量高达 6TB，并采用自家 NeuronLink 进行连接。
业界指出，Trainium2由AWS与迈威尔合作设计，并委由台积电制造，采用5纳米与CoWoS先进封装技术，后段封测伙伴则包括旺硅、京元电等，且由于Trainium2需求强劲，业界也传出，Marvell上调其对台积电明年CoWoS的需求量，相关供应链可望同步受惠。
AWS 2024 re：Invent 今日照惯例由资深副总裁Peter DeSantis打头阵举行演讲，此次重点围绕在Trainium2.一连推出Trainium2 Server以及Trainium2 Ultra Server，并释出最新连接技术Fiber optical trunk cable与Firefly Optic Plug。
Peter DeSantis指出，封装体尺寸越来越大，目前已是芯片尺寸的3倍左右，Trainium2将2颗运算芯片与4颗HBM透过中间层连结，并进行先进封装，芯片与中间层间凸块连结仅约100微米，比最小的盐粒还细，且与前一代相比，稳压器也从平行并列转移至封装体下方，可有效降低电压。
AWS也以Trainium2为基础推出Trainium2 UltraServer，以两座机柜、四个服务器与64颗Trainium2组合而成，透过自家NeuronLink相互连接，每秒执行的浮点运算次数高达83.2.HBM容量达6TB，HBM带宽达每秒185TB，是自家推出最强的AI运算服务器。
此外，由AWS投资的Anthropic共同创办人Tot Brown也现身站台，同时宣布最新计划Project Rainier将采用AWS最新的Trn2.由数十万颗Trainium2芯片所组成，可进一步强化AI运算功能。
