Dell XE9680 6U服务器是Dell的第一个8X GPU平台。通过推动最复杂的Genai,机器学习,深度学习(ML/DL)和高性能计算工作负载(HPC)来显着提高应用程序性能。该服务器最多可容纳64核第5代Intel Xeon处理器,并提供了当前可用的GPU内存能力和带宽最高的,使其能够管理非常大且复杂的模型和数据集。使用您选择的GPU模块来量身定制配置
为了评估新款 PowerEdge XE9680 上每个 GPU 选项的推理性能,戴尔 CET AI 性能实验室和戴尔 HPC 和 AI 创新实验室选择了几种流行的 AI 模型进行基准测试。此外,为了提供比较的基础,他们还在我们上一代 PowerEdge XE8545 上运行了基准测试。选择了以下工作负载进行评估:
