NVIDIA 和 AWS 扩大全栈合作伙伴关系,提供对未来创新至关重要的安全、高性能计算平台

在 AWS re:Invent 大会上,NVIDIA 和 Amazon Web Services 通过跨互连技术、云基础设施、开放模型和物理 AI 的新技术集成扩大了战略合作。作为此次扩展的一部分,AWS 将支持 NVIDIA NVLink Fusion(定制 AI 基础设施平台),用于部署其定制设计的芯片,包括用于阅读文章的下一代 Trainium4 芯片

来源:NVIDIA 博客 _机器人技术

在 AWS re:Invent 大会上,NVIDIA 和 Amazon Web Services 通过跨互连技术、云基础设施、开放模型和物理 AI 的新技术集成扩大了战略合作。

作为此次扩展的一部分,AWS 将支持 NVIDIA NVLink Fusion(定制 AI 基础设施平台)来部署其定制设计的芯片,包括用于推理和代理 AI 模型训练的下一代 Trainium4 芯片、用于各种工作负载的 Graviton CPU 以及 Nitro System 虚拟化基础设施。

NVIDIA NVLink Fusion

利用 NVIDIA NVLink Fusion,AWS 将 NVIDIA NVLink 扩展互连和 NVIDIA MGX 机架架构与 AWS 定制芯片相结合,以提高性能并加快其下一代云规模 AI 功能的上市时间。

AWS 将合并

AWS 正在设计 Trainium4 以与 NVLink 和 NVIDIA MGX 集成,这是 NVIDIA 和 AWS 之间针对 NVLink Fusion 的多代合作的首个合作。

AWS 已经大规模部署了配备 NVIDIA GPU 的 MGX 机架。集成 NVLink Fusion 将使 AWS 能够进一步简化跨平台的部署和系统管理。

AWS 还可以利用 NVLink Fusion 供应商生态系统,该生态系统提供全机架规模部署所需的所有组件,从机架和机箱到供电和冷却系统。

通过支持 AWS 的 Elastic Fabric Adapter 和 Nitro 系统,AWS 上的 NVIDIA Vera Rubin 架构将为客户提供强大的网络选择,同时保持与 AWS 云基础设施的完全兼容性并加速新的 AI 服务的推出。

规模与主权的趋同

NVIDIA Spectrum-X

统一架构将确保客户能够访问先进的人工智能服务和功能,以及训练和部署大规模模型,同时保持对专有数据的绝对控制并完全遵守当地监管框架。

NVIDIA Nemotron 与 Amazon Bedrock 集成扩展了软件优化