©2018-2020 保留所有权利。Super Micro Computer, Inc. 可能随时更改规格和产品说明,恕不另行通知。本文档中提供的信息仅供参考,可能包含技术上的不准确之处、遗漏和印刷错误。任何性能测试和评级均使用反映 Super Micro Computer, Inc. 产品的大致性能的系统进行测量,这些性能由这些测试测得。本文包含的信息可能会发生变化,并且可能由于多种原因而变得不准确,包括但不限于产品和/或路线图的任何变化、组件和硬件修订变化、新型号和/或产品发布、软件更改、固件更改等。Super Micro Computer, Inc. 不承担更新或以其他方式更正或修订此信息的义务。
Onework 是建筑信息管理系统领域的领导者,它希望通过开发专业知识和应用程序来扩展其产品,以帮助客户在施工开始之前了解复杂的建筑设计。Onework 决定使用 NVIDIA Omniverse 来模拟未来的完整数据中心,该数据中心将使用沉浸式液体冷却来冷却数百台服务器。该项目需要新一代高速工作站来满足建模和查看整个数据中心的图形需求。借助 NVIDIA Omniverse,多个人可以协作进行设计并实时独立查看结果。此外,物理学
在当今的数字景观中,数据是可保护网络威胁,违规和损失必不可少的宝贵资产。过时的基础架构和传统系统所面临的挑战可能导致效率低下并缓慢恢复。此外,缺乏创新平台会增加损害性能的风险和复杂性。随着网络威胁的增长越来越复杂,组织需要有效的解决方案,以促进易于数据访问,同时为关键工作量提供强大的保护。没有适当的数据保护措施,企业面临着严重的漏洞,可能导致财务损失和对其声誉的持久损害。
复杂模型。其模块化设计从八个SYS-822GA-NGR3Intel®Gaudi®AI服务器解决方案的单个群集段开始,可以扩展到512个节点(4,096 GPU,64个群集段),同时又适应了增长AI工作量。其灵活性和能源效率使组织能够在AI创新的最前沿管理运营成本。由Intel®Gaudi®3AI加速器和Intel®Xeon®6带有性能核的处理器,SuperMicro正在构建专门构建的群集,可用于运行各种多租户数据中心的所有尺寸的深度学习工作负载。凭借Supermicro在大规模建立数据中心方面已经有经验的专业知识,因此创建解决方案作为生成AI计算能力,价格,能源效率和市场可用性的可行替代方案令人兴奋。
Applied Digital 认为,最适合其用户的系统是 Supermicro SYS- 821GE-TNHR,它配备双第四代英特尔® 至强® 铂金处理器 8462Y+。这些服务器使用 NVIDIA HGX H100 GPU,每个 GPU 配备 80GB 内存。NVIDIA H100 为 HPC 提供 67 万亿次浮点运算的 FP64 Tensor Core 计算,而融合 AI 的 HPC 应用程序可以利用 H100 的 TF32 精度实现单精度矩阵乘法运算的 1 千万亿次浮点运算吞吐量。该系统在计算节点内托管八个 H100 Tensor Core GPU 和 900GB/s NVSwitch,用于 GPU 到 GPU 的通信。Applied Digital 选择 2TB 的系统 RAM 来在转移到 GPU 内存之前暂存工作负载。对于网络,Applied Digital 使用 100GbE 进行带内管理和对象存储,并使用 NDR 结构进行 GPU Direct 和融合闪存文件系统流量。利用 NVIDIA DGX 参考架构,Applied Digital 可扩展到在单个并行计算集群中工作的数千个 H100 GPU。
要实施人工智能 (AI) 并获得其好处,您必须考虑解决方案的所有方面。找到能够提供端到端支持的合作伙伴至关重要,包括规划、数据准备、硬件选择、AI 模型设计、概念验证测试、参考架构和端到端支持。在此摘要中,我们根据公开的 MLPerf ® 基准测试结果,重点介绍了戴尔™ AI 产品组合中的服务器相对于 Supermicro 的性能和空间优势。MLPerf ® 在多个 AI 模型上测试训练和推理的性能。本摘要中的数据来自 2023 年 11 月在 MLCommons ® 网站上发布的 MLPerf ® v3.1 推理数据中心结果。1 我们还比较了有关每个供应商为支持 AI 部署而提供的产品和解决方案范围的公开信息。
SYS-E403-14B Cyber Flyaway 套件基于任务关键型灵活构建模块。Supermicro 的 SYS-E403-14B 移动边缘 AI/ML/HPC 服务器是业界性能最高的边缘 AI 服务器。35 磅的重量具有极具吸引力的性价比,可轻松作为随身行李放入任何飞机行李架。这为单个作战人员提供了易于操作的轮式技术。移动边缘性能扩展到移动集群,提供千万亿次浮点运算的 GPU 和千万亿字节的 AI 存储,以及 400GbE/s 的系统间连接。
成功的 AI 解决方案始于数据,终于洞察。无论是消费者细分市场还是商业细分市场,数据都在不受控制地增长。消费者拥有越来越多的工具来创建和共享信息,导致数据增长数字难以想象。企业正在尽其所能增加这一海量数据,希望能够利用这些数据作为商业智能提供巨大的价值。尽管数据供应充足,但洞察可能难以捉摸,但这并没有阻止企业投资 AI。到 2026 年,全球在 AI 上的支出预计将超过 3000 亿美元。(根据 IDC 的《全球人工智能支出指南》,2022 年 8 月)。当企业希望从 AI 的前景中获利时,他们必须改进数据管理或数据收集、分类和保护方式,以便做出符合组织最佳利益的决策和行动。
简介 HEROZ 专注于作为各行业价值创造源泉的“核心业务”,并在核心业务中实现高价值的现实世界 AI 技术。HEROZ 的 AI 工程师开发了著名的 AI-Shogi,该游戏击败了专业的 Shogi 选手。他们继续每天致力于开发其他 AI 工具,包括机器学习,最终开发了 Shogi Wars、CHESS HEROZ 和 BackgammonAce 等游戏。HEROZ 已经连续三年参加世界计算机 Shogi 锦标赛。HEROZ 曾多次获得冠军和亚军。HEROZ 还作为日本深度学习协会 (JDLA) 的成员正在开发一种新的 AI 系统。HEROZ 也是日本人工智能学会的支持成员,他们紧跟 AI 的前沿趋势。除了智力游戏之外,HEROZ 开发的 AI 在包括主要金融机构在内的许多其他行业中发挥着关键作用。
该配置旨在优化中大型基础设施,可适应各种既定环境,包括本地、云和混合系统。利用虚拟化服务器可以实现高效的 GPU 和 AI/ML 驱动的内容生成。该解决方案特别适合已经具备高可用性和灾难恢复机制的生产环境。它提供了一种在中大型规模上部署支持 GPU 的工作站的最佳方法,无论操作环境是基于云、混合还是本地。