AMD首次推出具有PCIe接口的图形加速器

它们能够支持标准数据中心服务器中的 AI 模型。

来源:OSP网站大数据新闻

AMD 发布了 Instinct MI350 图形加速器,旨在在公司数据中心运行工作负载和基于代理的 AI 应用程序。

Instinct MI350P 是适用于标准风冷服务器的双插槽 PCIe 卡。它们必须为现有数据中心基础设施(包括服务器机架、电源和冷却系统)中的本地推理提供支持。

这是四年来第一批采用 PCIe 总线 Instinct 技术的 AMD 加速器。传统上,Instinct GPU 迄今为止以 AMD Instinct 加速器的 OAM(开放加速器模块)格式标准的服务器模块形式发布,其中涉及在通用通用基板上组合八个 GPU。新加速器是全尺寸 PCIe Gen5 x16 卡,具有被动风冷功能,TDP 为 600 W,可安装在任何高度至少为 2U 的服务器机箱中。它们允许企业客户仅使用一张卡即可开始使用人工智能,而不是像 AMD 解决方案传统上提供的那样同时使用八个 GPU。

但是,一台服务器中最多可以安装八个 Instinct MI350P PCIe 卡,每个卡都配备 144 GB HBM3E 内存,带宽高达 4 TB/s。 AMD 表示,这使得它们成为非常适合增量扩展、小型、中型和大型 AI 模型部署、推理和 RAG 管道的解决方案。

AMD 尚未公布 Instinct MI350P 卡的发布日期及其价格。