详细内容或原文请订阅后点击阅览
Amazon Bedrock Model Distillation 指南（预览版）
这篇文章介绍了 Amazon Bedrock 模型蒸馏的工作流程。我们首先介绍 Amazon Bedrock 中模型蒸馏的一般概念，然后重点介绍模型蒸馏中的重要步骤，包括设置权限、选择模型、提供输入数据集、启动模型蒸馏作业以及在模型蒸馏后对学生模型进行评估和部署。
来源:亚马逊云科技 _机器学习使用生成式 AI 时，使用具有成本效益的低延迟模型实现高性能通常是一项挑战，因为这些目标可能会相互冲突。借助新推出的 Amazon Bedrock 模型蒸馏功能，您可以使用更小、更快、更具成本效益的模型，这些模型可提供与 Amazon Bedrock 中针对这些特定用例的最大、最强大的模型相当的用例特定准确性。
模型蒸馏是将知识从更强大的高级模型（教师）转移到更小的模型（学生）的过程，该模型更快、更具成本效益，可使学生模型在特定用例中与教师一样高效。为了传递知识，您用例特定的提示首先用于从教师模型生成响应，然后使用教师响应来微调学生模型。
Amazon Bedrock 是一项完全托管的服务，提供高性能基础模型 (FM) 的选择以及构建生成式 AI 应用程序的广泛功能，通过安全性、隐私性和负责任的 AI 简化开发。借助 Amazon Bedrock Model Distillation，您现在可以使用由高性能模型生成的合成数据为您的用例定制模型。在预览版中，Amazon Bedrock Model Distillation 支持三个模型提供商：Amazon、Anthropic 和 Meta。教师和学生模型应来自同一模型提供商。
Amazon Bedrock 基础模型 (FM) 生成式 AI这篇文章介绍了 Amazon Bedrock Model Distillation 的工作流程。我们首先介绍 Amazon Bedrock 中模型蒸馏的一般概念，然后重点介绍模型蒸馏中的重要步骤，包括设置权限、选择模型、提供输入数据集、开始模型蒸馏作业以及在模型蒸馏后对学生模型进行评估和部署。
Amazon Bedrock Model Distillation 的主要优势
效率逆向
e