详细内容或原文请订阅后点击阅览
AMD首次推出具有PCIe接口的图形加速器
它们能够支持标准数据中心服务器中的 AI 模型。
来源:OSP网站大数据新闻AMD 发布了 Instinct MI350 图形加速器,旨在在公司数据中心运行工作负载和基于代理的 AI 应用程序。
Instinct MI350P 是适用于标准风冷服务器的双插槽 PCIe 卡。它们必须为现有数据中心基础设施(包括服务器机架、电源和冷却系统)中的本地推理提供支持。
这是四年来第一批采用 PCIe 总线 Instinct 技术的 AMD 加速器。传统上,Instinct GPU 迄今为止以 AMD Instinct 加速器的 OAM(开放加速器模块)格式标准的服务器模块形式发布,其中涉及在通用通用基板上组合八个 GPU。新加速器是全尺寸 PCIe Gen5 x16 卡,具有被动风冷功能,TDP 为 600 W,可安装在任何高度至少为 2U 的服务器机箱中。它们允许企业客户仅使用一张卡即可开始使用人工智能,而不是像 AMD 解决方案传统上提供的那样同时使用八个 GPU。
但是,一台服务器中最多可以安装八个 Instinct MI350P PCIe 卡,每个卡都配备 144 GB HBM3E 内存,带宽高达 4 TB/s。 AMD 表示,这使得它们成为非常适合增量扩展、小型、中型和大型 AI 模型部署、推理和 RAG 管道的解决方案。
AMD 尚未公布 Instinct MI350P 卡的发布日期及其价格。
