XiaoMi-AI文件搜索系统
World File Search System工作负载
GPU 集群中的预测辅助在线分布式深度学习工作负载调度
摘要 — 近年来深度学习 (DL) 模型的爆炸式增长使得人们迫切需要在 GPU 集群中对混合并行分布式深度学习训练 (DDLwMP) 进行高效的作业调度。本文提出了一种自适应最短剩余处理时间优先 (A-SRPT) 调度算法，这是一种新颖的预测辅助在线调度方法，旨在缓解与 DL 集群调度相关的挑战。通过将每个作业建模为与异构深度神经网络 (DNN) 模型及其相关的分布式训练配置相对应的图，A-SRPT 策略性地将作业分配给可用的 GPU，从而最大限度地减少服务器间的通信开销。观察到大多数 DDLwMP 作业会重复出现，A-SRPT 结合随机森林回归模型来预测训练迭代。至关重要的是，A-SRPT 将复杂的调度问题映射到单机实例中，该实例通过抢占式“最短剩余处理时间优先”策略得到最佳解决。该优化解决方案可作为 GPU 集群内实际作业调度的指南，从而实现理论上可证明的竞争性调度效率。我们进行了广泛的真实测试平台和模拟实验来验证我们提出的算法。
AWS 规范指导 - 生成式 AI 工作负载评估
# ........................................................................................................................................................... 35 A ........................................................................................................................................................... 36 B ........................................................................................................................................................... 39 C ........................................................................................................................................................... 41 D ........................................................................................................................................................... 44 E ........................................................................................................................................................... 48 F ........................................................................................................................................................... 50 G ........................................................................................................................................................... 52 H ........................................................................................................................................................... 53 I ........................................................................................................................................................... 54 L ........................................................................................................................................................... 56 M ........................................................................................................................................................... 58 O ........................................................................................................................................................... 62 P ........................................................................................................................................................... 64 Q ........................................................................................................................................................... 67 R ........................................................................................................................................................... 67 S ........................................................................................................................................................... 70 目录 ................................................................................................................................................................ 74 U ................................................................................................................................................................ 75 V ................................................................................................................................................................ 76 W ................................................................................................................................................................ 76 Z ................................................................................................................................................................ 77
使用Lenovo启用DPU的服务器最大化安全性和工作负载性能
最新的服务器技术和体系结构使组织能够针对不同工作负载的虚拟机和容器实现更高的整合率。混合云采用的急剧增加导致东西方和南北的交通增加，这增加了增强的复杂性，以实现零信任的安全性。引入额外的安全解决方案层带来了架构，部署和管理方面的挑战 - 它需要更多的计算功率。尽管服务器具有高速处理器，内存和存储，但是网络和安全处理会消耗相当大的硬件资源，并且会影响每台服务器的密度更高，而不会损害性能和延迟。企业需要卸载和加速工作量，而无需引入其他复杂性，以进行其基础架构的部署和操作。
使用 oneDNN、oneDAL 和 OpenBLAS 为 AI 工作负载提供支持
重新设计软件以适应每个硬件平台具有限制性。开源和与平台无关的软件设计可实现在各种硬件平台上的互操作性，从而创建更灵活的开发者生态系统。
AI 工作负载利用 InfiniBox®
Infinidat 的 RAG 工作流架构在 Kubernetes 集群上运行。想要使用本地数据运行 RAG 但没有可用 GPU 资源的用户可以利用云快速便捷地解决问题。我们的方法使用 Kubernetes 集群作为运行 RAG 管道的基础，从而实现高可用性、可扩展性和资源效率。借助 AWS Terraform，我们大大简化了 RAG 系统的设置，只需一个命令即可运行整个自动化。同时，在 InfiniBox 本地和 InfuzeOS™ Cloud Edition 之间运行的相同核心代码使复制变得轻而易举。在 10 分钟内，一个功能齐全的 RAG 系统就可以在 InfuzeOS Cloud Edition 上处理您的数据。
性能和功耗：使用 CARAML 对加速器上的 AI 工作负载进行系统评估
摘要 — 机器学习 (ML) 技术的快速发展推动了专用硬件加速器的发展，旨在促进更高效的模型训练。本文介绍了 CARAML 基准测试套件，该套件用于评估在一系列硬件加速器上训练基于 Transformer 的大型语言模型和计算机视觉模型时的性能和能耗，包括 NVIDIA、AMD 和 Graphcore 的系统。CARAML 提供了一个紧凑、自动化、可扩展和可重复的框架，用于评估各种新型硬件架构中 ML 工作负载的性能和能耗。本文详细讨论了 CARAML 的设计和实现，以及一个名为 jpwr 的自定义功率测量工具。索引术语 — 机器学习、能量、NLP、计算机视觉、AI、性能测量、基准、GPU、IPU、加速器
碳吸引工作负载转移的仿真框架
框架的核心方面是可互换的碳强度数据和工作负载。通过使用来自不同来源和不同工作负载的碳强度数据启用实验，这些组件的互换性节省了工作负载转移算法的时间。有用于碳强度数据和工作负载的通用格式，前者的数据框架列结构以及后者的自定义API数据框架扩展。公共格式可以简化给定算法与工作量或碳强度数据之间的兼容性，而不是专门为给定算法设计的。此外，这使两种或多个算法可以使用相同的工作负载，而无需为每种算法自定义工作负载，这又支持比较开发过程中的算法。
与Intel SGX多线程的DNA对齐工作负载的性能分析
抽象数据机密性是数字时代的关键问题，影响了用户与公共服务之间以及科学计算组织与云与HPC提供商之间的互动。并行计算中的性能是必不可少的，但对于建立受信任的执行环境（TEE）以确保遥远环境中的隐私通常会对执行时间产生负面影响。本文旨在分析在英特尔SGX处理器机密的飞地内执行的DNA对齐（Bowtie2）的平行生物信息学工作负载的性能。结果提供了令人鼓舞的见解，内容涉及在大型数据集上使用基于SGX的TEE进行并行计算的可行性。调查结果表明，在高平行化条件下，并具有两倍的线程，在SGX飞地中执行的工作负载平均比非固定执行快15％。这种经验证明支持基于SGX的TEE有效平衡隐私需求与高性能计算的需求的潜力。
AI工作负载和IT基础架构的未来
彼得领导Vertiv Power业务的战略客户发展。他擅长使用最新的功率和控制技术来解决客户挑战，从而提供可用性，可扩展性和效率水平，以满足各种客户和可持续性需求。彼得对电力解决方案有深刻的了解，以支持AI应用程序的独特需求，他是“带来您自己的权力”方法来解决效用依赖问题的倡导者。在关键的基础设施领域拥有30多年的历史，他在当前职责之前曾担任副总裁工程和副总裁/GM AC权力。他是为IT，设施和工程行业提供服务的行业贸易展览会，会议和媒体的经常演讲者和发言人，并且是通过他对2024年的《 Greener Data Vol。2英寸。
为 AI 工作负载提供网络弹性数据保护
在当今数据驱动的世界中，AI 不仅仅是一种奢侈品，更是保持竞争力的必需品。但是，随着 AI 深入融入业务运营，它为数据保护带来了独特的挑战。Dell PowerProtect 数据保护直面这些挑战，提供全面的解决方案，确保您的 AI 数据安全无虞，业务运行顺畅。数据保护的迫切需求 根据 Dell Technologies 生成式 AI 脉搏调查，76% 的 IT 领导者认为 AI 将对其组织产生重大甚至变革性的影响 1 。对 AI 的依赖性增加也意味着生成的数据量和价值激增。近 90% 的组织承认 AI 应用程序中需要数据保护，但 65% 的组织仅备份了不到其总 AI 数据的一半 2 。这一差距凸显了从规划阶段到部署阶段对强大数据保护策略的迫切需求。为什么 AI 工作负载需要专门的保护 AI 工作负载与任何其他业务功能一样重要，但极易受到网络威胁。常见风险包括数据中毒、勒索软件、隐私泄露和社会工程。生成式 AI (GenAI) 应用程序（如大型语言模型 (LLM)）的使用引入了新的攻击面，使数据保护比以往任何时候都更加重要。为 AI 工作负载提供全面的数据保护 Dell PowerProtect 数据保护提供了一种现代、简单且有弹性的方法来保护 AI 工作负载。从数据源到 AI 模型，从查询到响应，您的 AI 基础架构的每个组件都将受到保护。