Disaggregated prefill and decode for LLM inference on SageMaker HyperPod
在本文中,我们将展示如何使用 HyperPod Inference Operator 在 Amazon SageMaker HyperPod 上通过 vLLM 实现 DPD。
Deploying Multi-Turn RL Infrastructure for Amazon Nova on Amazon SageMaker HyperPod
在本文中,您将在 Amazon SageMaker HyperPod 上使用 Amazon Nova Forge 部署用于多回合 RL 的两阶段基础设施。最后,您将拥有一个事件驱动的管道,当您将数据上传到 Amazon Simple Storage Service (Amazon S3) 时,该管道就会开始训练。训练作业教模型玩 Wordle,这是您自己的 RL 任务的占位符。
Scale Robot Reinforcement Learning with NVIDIA Isaac Lab on Amazon SageMaker AI
在这篇文章中,我们展示了如何在 Amazon SageMaker AI 上使用 NVIDIA Isaac Lab 跨两个计算选项训练 Unitree H1 人形机器人策略:Amazon SageMaker HyperPod 和 Amazon SageMaker 训练作业。