XiaoMi-AI文件搜索系统
World File Search SystemGPUs
Megascale：将大型语言模型培训扩展到10,000多个GPU
Qi Huang 1 Yangrui Chen 1 Zhi Zhang 1 Yanghua Peng 1 Xiang Li 1 Cong Xie 1 Shibiao Nong 1 Yulu Jia 1 Sun He 1 Hongmin Chen 1 Zhihao Bai 1 Qi Hou 1 Shipeng Yan 1 Ding Zhou 1 Yiyao Sheng 1 Zhuo Jiang 1 Haohan Xu 1 Haoran Wei 1 Zhang Zhang 1 Pengfei Nie 1 Leqi Zou 1 Sida Zhao 1 Liang Xiang 1 Zherui Liu 1 Zhe Li 1 Xiaoying Jia 1 Jianxi Ye 1 Xin Jin 2 , Xin Liu 1
Thinksystem Nvidia H200 141GB GPU
AI由于成本，集成复杂性和部署时间而无法实现。以前，组织依靠最新数据依靠llms来验证其LLM，这是一个昂贵且耗时的过程。NETAPP AIPOD与Lenovo一起使用NVIDIA OVX结合了NVIDIA认证的OVX Lenovo Thinksystem SR675 V3服务器，具有经过验证的NetApp存储，以创建专门为AI工作负载设计的融合基础架构。使用此解决方案，客户将能够为聊天机器人，知识管理和对象识别等用例进行AI抹布和推理操作。
投资GPU-主要需求驱动因素和市场趋势
这一需求以及对供应的多个限制，创造了一个新兴的替代投资类别，GPU和DCS越来越广泛地受到多元化投资策略中的组成部分的追捧。诸如更高效的代码或量子计算之类的创新仅略微降低了此需求/供应差距，DeepSeek与低成本绩效有关的主张引发了关于开发成本可比性的辩论，尤其是来自Openai的辩论。值得注意的是，无论可用的效率提高，都有可能进一步推动GPU需求而破坏它。但是，市场的短期反应突出了单个公司直接股权投资的风险。相比之下，GPU债券提供了每日市场情绪中的一些隔热材料，反映了共同定位租约，实物供应链，地缘政治偏好以及将新筹码推向市场所需的时间的现实世界复杂性。在整个系列中，我们将检查这些动态，绘制不断发展的DC景观，并洞悉投资者投资组合中GPU的吸引力和使用。
识别 GPU 微架构漏洞的有效方法
摘要 — 图形处理单元 (GPU) 越来越多地被应用于可靠性至关重要的多个领域，例如自动驾驶汽车和自主系统。不幸的是，GPU 设备已被证明具有很高的错误率，而实时安全关键应用程序所施加的限制使得传统的（且昂贵的）基于复制的强化解决方案不足。这项工作提出了一种有效的方法来识别 GPU 模块中的架构易受攻击的位置，即如果损坏则最影响正确指令执行的位置。我们首先通过基于寄存器传输级 (RTL) 故障注入实验的创新方法来识别 GPU 模型的架构漏洞。然后，我们通过对已确定为关键的触发器应用选择性强化来减轻故障影响。我们评估了三种强化策略：三重模块冗余 (TMR)、针对 SET 的三重模块冗余 (∆ TMR) 和双联锁存储单元（骰子触发器）。在考虑功能单元、流水线寄存器和 Warp 调度器控制器的公开 GPU 模型 (FlexGripPlus) 上收集的结果表明，我们的方法可以容忍流水线寄存器中 85% 到 99% 的故障、功能单元中 50% 到 100% 的故障以及 Warp 调度器中高达 10% 的故障，同时降低硬件开销（与传统 TMR 相比，在 58% 到 94% 的范围内）。最后，我们调整了该方法以针对永久性故障执行补充评估，并确定了容易在 GPU 上传播故障影响的关键位置。我们发现，对瞬态故障至关重要的触发器中相当一部分（65% 到 98%）对永久性故障也至关重要。
Juniper® 验证设计 JVD 测试报告摘要：采用 Juniper Apstra、NVIDIA GPU 和 WEKA 存储的 AI 数据中心网络
• DLB 不使用端口 BW 来计算链路质量。相反，链路质量基于最近通过每个 ECMP 链路传输的流量，以及每个 ECMP 链路上排队等待传输的流量。这可能导致流量被分配到较低 BW 的链路而不是较高 BW 的链路，从而导致拥塞。此外，如果链路质量下降，已分配给链路的流量将不会被重新分配，除非该链路暂停的时间长于不活动间隔。可以调整端口质量指标和不活动间隔以克服这种情况；请参阅自定义 DLB 的出口端口链路质量指标。此外，请考虑实施反应路径重新平衡。
采用瞻博网络 Apstra、NVIDIA GPU 和 WEKA 存储的 AI 数据中心网络 - 瞻博网络验证设计 (JVD)
• 性能监控和错误分析：遥测系统跟踪与 AI 模型相关的关键性能指标，例如准确度、精确度、召回率和计算资源利用率（例如 CPU、GPU 使用率），这些指标对于评估训练和推理作业期间的模型有效性至关重要。这些系统还可以深入了解训练和推理操作期间的错误率和故障模式，并帮助识别可能影响 AI 性能的问题，例如模型漂移、数据质量问题或算法错误。这些系统的示例包括 Juniper Apstra 仪表板、TIG Stack 和 Elasticsearch。
利用张量网络方法在现代 GPU 上进行高效的量子电路模拟
随着量子硬件的快速发展，量子电路的高效模拟已变得不可或缺。主要的模拟方法基于状态向量和张量网络。随着目前量子器件中量子比特和量子门的数量不断增加，传统的基于状态向量的量子电路模拟方法由于希尔伯特空间的庞大和广泛的纠缠而显得力不从心。因此，野蛮的张量网络模拟算法成为此类场景下的唯一可行解决方案。张量网络模拟算法面临的两个主要挑战是最优收缩路径寻找和在现代计算设备上的高效执行，而后者决定了实际的效率。在本研究中，我们研究了此类张量网络模拟在现代 GPU 上的优化，并从计算效率和准确性两个方面提出了通用的优化策略。首先，我们提出将关键的爱因斯坦求和运算转化为 GEMM 运算，利用张量网络模拟的具体特性来放大 GPU 的效率。其次，通过分析量子电路的数据特性，我们采用扩展精度保证模拟结果的准确性，并采用混合精度充分发挥GPU的潜力，使模拟速度更快、精度更高。数值实验表明，在Sycamore的18周期情况下，我们的方法可以将随机量子电路样本的验证时间缩短3.96倍，在一台A100上持续性能超过21 TFLOPS。该方法可以轻松扩展到20周期的情况，保持相同的性能，与最先进的基于CPU的结果相比加速12.5倍，与文献中报道的最先进的基于GPU的结果相比加速4.48-6.78倍。此外，本文提出的策略对
使用 OCI 上的 NVIDIA GPU 加速 AI 训练和推理
版权所有 © 2023，Oracle 和/或其附属公司。本文档仅供参考，其内容如有更改，恕不另行通知。本文档不保证无错误，也不受任何其他保证或条件的约束，无论是口头表达还是法律暗示，包括适销性或特定用途适用性的暗示保证和条件。我们明确声明对本文档不承担任何责任，本文档不直接或间接形成任何合同义务。未经我们事先书面许可，不得以任何形式或任何电子或机械手段出于任何目的复制或传播本文档。
无缝证明Intel TDX和NVIDIA H100GPUS机密AI
•H100 GPU•证明–SDK，NRAS和支持服务•无缝证明带有Intel Trust Authority•演示•摘要 div div div div>
