详细内容或原文请订阅后点击阅览
使用 Amazon Bedrock 上的 Prompt Optimization 提高生成式 AI 应用程序的性能
今天,我们很高兴地宣布在 Amazon Bedrock 上推出提示优化功能。借助此功能,您现在只需调用一次 API 或单击 Amazon Bedrock 控制台上的按钮,即可针对多种用例优化提示。在这篇文章中,我们将讨论如何使用示例用例开始使用此新功能,并讨论一些性能基准。
来源:亚马逊云科技 _机器学习提示工程是指编写指令以从基础模型 (FM) 获得所需响应的做法。您可能需要花费数月时间对提示进行试验和迭代,遵循每个模型的最佳实践,以实现所需的输出。此外,这些提示特定于模型和任务,当它们与不同的 FM 一起使用时,性能无法保证。提示工程所需的这种手动工作可能会降低您测试不同模型的能力。
今天,我们很高兴地宣布在 Amazon Bedrock 上提供提示优化。借助此功能,您现在可以通过单个 API 调用或单击 Amazon Bedrock 控制台上的按钮来优化针对多个用例的提示。
提示优化 Amazon Bedrock在这篇文章中,除了讨论一些性能基准之外,我们还讨论了如何使用示例用例开始使用此新功能。
解决方案概述
在撰写本文时,Amazon Bedrock 的 Prompt Optimization 支持 Anthropic 的 Claude 3 Haiku、Claude 3 Sonnet、Claude 3 Opus 和 Claude-3.5-Sonnet 模型、Meta 的 Llama 3 70B 和 Llama 3.1 70B 模型、Mistral 的 Large 模型和 Amazon 的 Titan Text Premier 模型的 Prompt Optimization。Prompt Optimization 可以显著改善生成式 AI 任务。我们针对几项任务进行了一些示例性能基准测试并进行了讨论。
在以下部分中,我们将演示如何使用 Prompt Optimization 功能。对于我们的用例,我们希望优化查看通话或聊天记录并对下一个最佳操作进行分类的提示。
使用自动提示优化
要开始使用此功能,请完成以下步骤:
- 在 Amazon Bedrock 控制台上,在导航窗格中选择提示管理。选择创建提示。输入提示的名称和可选描述,然后选择创建。