详细内容或原文请订阅后点击阅览

Amazon Sagemaker上的Ray Job

2025年4月2日 19:18 33 Comments
X Twitter Instagram Mail

Ray是一个开源框架，使创建，部署和优化分布式Python作业变得直接。在这篇文章中，我们演示了在Sagemaker Hyperpod上运行射线作业的步骤。

来源:亚马逊云科技 _机器学习
基础模型（FM）培训和推理导致整个行业的计算需求显着增加。这些模型需要大量的加速计算，以有效地训练和运行，从而突破了传统计算基础架构的界限。他们需要有效的系统来在多个GPU加速服务器上分配工作负载，并优化开发人员速度和性能。RAY是一个开源框架，它使创建，部署和优化分布式Python作业变得直接。 Ray的核心提供了一个统一的编程模型，使开发人员可以将其应用程序从单个机器无缝扩展到分布式群集。它为任务，参与者和数据提供了一组高级API，它们抽象了分布式计算的复杂性，从而使开发人员能够专注于其应用程序的核心逻辑。 Ray促进了简单的机器学习（ML）实验和可扩展的弹性生产应用程序的相同编码模式。 Ray的主要功能包括高效的任务计划，容错性和自动资源管理，使其成为构建各种分布式应用程序的强大工具，从ML模型到实时数据处理管道。随着图书馆和工具的日益增长的生态系统，Ray已成为希望使用分布式计算能力来解决复杂和数据密集型问题的组织的流行选择。AmazonSagemaker HyperPod是一种专门建立的基础架构来开发和部署大型FMS。 Sagemaker Hyperpod不仅提供了创建和使用自己的软件堆栈的灵活性，而且还通过相同的实例放置以及内置的弹性来提供最佳性能。结合了Sagemaker超音架的弹性和Ray的效率，提供了一个有力的框架来扩展您的生成AI工作负载。在这篇文章中，我们演示了Runn
自己的 组织的 工作负载 图书馆 ML 有效的 内置的 分布式计算 使用 工具的 分布式 参与者 数据处理 基础架构 Sagemaker 加速计 计算能力 灵活性 任务计划 有力的 实时数据 计算的 增长的 统一的 提供 开发人员 生态系统 大量的 应用程序 简单的 处理管道 相同的 扩展的 优化 成为 Ray 服务器 机器学习 弹性 模型 计算 复杂性