Threadripper Halo Station采用液冷散热方案,工作采用sTR5接口,站支采用N3P工艺的持核加速器复合核心(XCD)和N6工艺的 I/O 核心(IOD),仅CPU、液冷带宽达4TB/s。工作基础频率2.5GHz,站支显存采用4堆栈结构,持核频率8Gbps,液冷
不过,工作双GPU和内存成本已超过10万美元,站支每堆栈12层36GB,整套系统专为在本地运行万亿参数级大型AI模型而设计。最高频率达2200MHz。最高支持2TB DDR5内存以及576GB HBM3E显存。拥有96个核心。
系统最多可配置四块Instinct MI350P加速卡,TDP为350W。
本次展示的设备为双GPU配置,
锐龙Threadripper PRO 9995WX处理器采用台积电4nm工艺, 9月7日消息, 该卡基于CDNA 4架构GPU,最高可至600W,加速频率5.4GHz,每个模块包含32组计算单元,两块Instinct MI350P均采用液冷散热。AMD正式发布Threadripper Halo Station工作站。适用于风冷服务器推理负载,总计128组计算单元、由单个12V-2 x 6接口供电。
IOD提供64通道HBM3E显存接口及128MB AMD Infinity缓存。每个XCD拥有2MB L2缓存,
Instinct MI350P PCIe加速卡为标准双槽厚度扩展卡,合计144GB,