Dell Technologies、NVIDIA 和 VMware 推出的 AI-Enterprise Ready 平台提供端到端硬件和软件解决方案,可实现 IT 现代化和加速,从而实现 AI 成功。集成 AI 平台基于 NVIDIA AI Enterprise 套件构建,该套件是同类最佳的 AI 软件,针对业界领先的虚拟化平台 VMware vSphere 进行了优化和认证。该解决方案基于 NVIDIA 认证和加速的 Dell PowerEdge 服务器构建,可帮助开发人员更快地构建 AI 和高性能分析,并更轻松地扩展现代工作负载。它利用许多组织已经投资的相同 VMware vSphere 基础架构,同时提供企业级的可管理性、可用性和安全性。
戴尔和 AMD 的合作提供的是一个统一的硬件和软件生态系统,旨在让开发人员能够轻松高效地创建结合迁移学习、微调和推理的端到端 AI 解决方案。在 Hugging Face 的支持下,我们现在拥有越来越多的模型组合,这些模型可在搭载 AMD EPYC™ 处理器或 AMD Instinct™ MI300X 加速器的戴尔 PowerEdge 服务器上运行,以便开发人员可以进行微调、应用迁移学习和部署以进行推理。对 AMD ROCm™ 和 AMD ZenDNN™ 的投资以及与 PyTorch、Tensorflow 和 ONNX Runtime 框架的合作,是应用 AI 开发人员体验 AI 民主化的根本推动因素。下面的堆栈图详细介绍了构成戴尔和 AMD 统一 AI 生态系统的组件。
IntelGaudi®3的内置以太网链接每个都提供200GBPS。8 XGaudi®3模块可以达到4,200GB/s的理论峰带宽,从而消除了后端对外部NIC的需求,同时提供了比专有替代方案更高的骨料带宽。与前端的Intel E810 NIC搭配,系统可确保10/25GBE速度,高级数据包过滤和ROCEV2支持,为外部延迟敏感的数据流量提供可扩展且高性能的网络。newGaudi®3AI加速器提供高达20%的吞吐量和2倍的价格/绩效,以推理Llama 2 70B与领先的竞争对手,赋予企业能力以增强其AI工作量而不损害效率。请参阅Intel®Gaudi®3和Dell PowerEdge XE9680如何共同努力,以支持要求AI计划。
应对这些挑战,戴尔技术(Dell Technologies)开创了旨在满足Genai基础设施的复杂需求的全面和开放式供电的解决方案。利用其在AI,建模和高性能计算(HPC)环境中的丰富经验,Dell Technologies提供了一套解决方案,以解决前端和后端要求。从用于加速的模块化计算系统(例如Dell PowerEdge XE服务器)到以AI为注重的存储解决方案(例如PowerScale),Dell Technologies为成功的Genai部署提供了必不可少的组件。这种方法的核心是由高级网络硅提供动力的下一代以太网织物的部署。使用Dell Powerswitch Z9864-ON提供800 GBE的非封锁网络性能,对Genai应用至关重要,客户可以使用高潜伏期和高吞吐量的AI群集使用高带宽切换和高吞吐量,并且在Dell的Enterprise Sonic分销中发现了dell Sonic分销中的新功能,例如dell sonic sonic sonic sonic connolations,例如进出路由,ROCEV 2,增强了效果,并增强了效率,并增强了良好的效果,优先型和优先级别的功能。