AMD 推出首款机架式人工智能平台

AMD Helios 开放基础设施平台是对 Nvidia 主导地位的回应。

来源:OSP网站大数据新闻

AMD推出了Helios开放式机架AI系统,该系统专为主权基础设施中最先进的AI模型和计算而设计。它基于下一代 AMD Instinct GPU、Epyc Venice CPU、Pensando 网络解决方案和 ROCm 软件堆栈构建。

同时还宣布了与微软的一项协议,该协议规定大规模实施Helios以推理高级人工智能模型,支持微软人工智能客户端和Azure人工智能服务。

Helios 的发布是 AMD 对抗 Nvidia 主导地位的最认真的尝试。 EIRTrend 和 Pareekh Consulting 的专家强调,与 AMD 之前专注于个人加速器的人工智能产品不同,Helios 是一个成熟的计算系统,可与 Nvidia Vera Rubin 竞争。

与Helios相比,Nvidia在推理速度和加速器之间的互连性能方面胜出,而Helios在内存容量和性价比方面胜出。每个 AMD 机架的内存 (31 TB HBM4) 比竞争对手的 Nvidia 系统多大约一倍半,这有助于运行非常大的 AI 模型。 Helios 使用 OCP 开放机架宽 (ORW)、UALink 和超以太网联盟等开放行业标准,而不是 Nvidia 等专有技术,并且可以跨数据中心高效扩展。

AMD Helios 机架式液冷平台配备 72 个 AMD Instinct MI455X GPU、18 个 AMD Epyc Venice 处理器以及采用 UALink 的 AMD Pensando Vulcano 网络,针对计算、数据移动和系统效率进行了优化。支持 OCP MX 数据格式以加速 AI 计算,为 FP4 操作数提供高达 2.9 EFLOPS 的性能,为 FP8 操作数提供高达 1.4 EFLOPS 的性能。 Helios 的安全性由硬件和软件解决方案来保证。