利用 NVIDIA DGX Spark 在桌面上释放 AI 创新

利用 NVIDIA DGX Spark™ 将强大的 AI 开发带到您的桌面。

来源:教育潜水

人工智能世界正在快速发展,生成式人工智能模型变得越来越大、越来越复杂。对于开发人员、研究人员和组织来说,挑战是显而易见的:如何在不完全依赖云资源或庞大的数据中心的情况下构建、微调和部署这些大型模型? NVIDIA DGX Spark™ 是一款革命性的个人 AI 计算机,现已通过 PNY 发售,旨在为您的桌面带来超级计算机级别的 AI 性能。

在本地释放人工智能潜力

传统桌面解决方案往往难以跟上现代人工智能工作负载的需求。有限的计算能力、有限的 GPU 内存和分散的软件堆栈迫使许多团队将工作转移到远程基础设施,从而减慢了创新速度。 NVIDIA DGX Spark 现已在 PNY 上市,它改变了游戏规则,在紧凑、节能的系统中提供高达 1 petaFLOP 的 AI 性能,可轻松放置在任何桌面上。

DGX Spark 的核心是 NVIDIA GB10 Grace Blackwell Superchip,这是一个工程奇迹,它将强大的 NVIDIA Blackwell 架构 GPU 与 20 核 Arm CPU 结合在一起。该架构针对 AI 进行了优化,具有第五代 Tensor Core 和 FP4 支持,使开发人员能够在本地处理多达 2000 亿个参数的模型。对于那些进一步突破界限的人来说,两个 NVIDIA DGX Spark 系统可以通过 NVIDIA Connect-X 网络连接起来,以处理多达 4050 亿个参数的模型。

主要功能

DGX Spark 专为人工智能开发而设计,提供了一系列功能,使用户能够毫不妥协地进行创新:

  • 128 GB 统一系统内存:充足的内存可用于实验、微调和推理最新的生成式 AI 模型。
  • NVIDIA Blackwell架构GPU:第五代Tensor核心和第四代RT核心,用于实时光线追踪和加速AI工作负载。
  • 4 TB NVMe 存储:快速、安全的存储,具有自加密功能,适用于大型数据集和模型。