Ema关键词检索结果

亚马逊云科技 _机器学习
2026年6月16日 17:47

在 Amazon SageMaker AI 上使用 P-EAGLE 并行化推测解码

Parallelize speculative decoding with P-EAGLE on Amazon SageMaker AI

本文将引导您了解如何直接在 Amazon SageMaker AI 中使用 P-EAGLE。它将演示如何从 SageMaker JumpStart 目录中选择兼容模型、配置并行绘图规范以及部署高度优化的实时 SageMaker AI 端点以加速您的生成式 AI 应用程序。