详细内容或原文请订阅后点击阅览

通过数据感知提示优化提高亚马逊NOVA迁移绩效

2025年4月29日 16:18 33 Comments
X Twitter Instagram Mail

在这篇文章中，我们提出了LLM迁移范式和体系结构，包括连续的模型评估过程，使用Amazon Bedrock及时生成，以及数据吸引的优化。该解决方案在迁移之前评估模型性能，并使用用户提供的数据集和目标指标迭代优化Amazon Nova模型提示。

来源:亚马逊云科技 _机器学习
在生成AI的时代，新的大型语言模型（LLM）不断出现，每种都具有独特的功能，体系结构和优化。其中，亚马逊NOVA基金会模型（FMS）提供了专门在亚马逊基岩上提供的边界智能和行业领先的成本绩效。自2024年推出以来，包括亚马逊的团队在内的Generative AI从业人员已经开始从现有的FMS过渡其工作负载并采用Amazon Nova型号。但是，当在不同的基础模型之间过渡时，为您的原始模型创建的提示可能不会像Amazon Nova模型一样，而无需迅速的工程和工程型。 Amazon Bedrock提示优化提供了一种工具，可以自动优化指定目标模型的提示（在这种情况下为Amazon Nova型号）。它可以将您的原始提示转换为Amazon Nova风格的提示。此外，在迁移到亚马逊NOVA期间，一个关键挑战是确保迁移后的表现至少与迁移之前一样好或更好。为了缓解这一挑战，必须将Amazon Nova模型与迁移前使用的模型进行比较，并优化Amazon Nova上的提示以使其与先前的工作相结合或在这些帖子上进行改进。 优化。该解决方案在迁移之前评估模型性能，并使用用户提供的数据集和目标指标迭代优化Amazon Nova模型提示。我们展示了成功迁移到亚马逊NOVA完成的三个LLM任务：文本摘要，多级文本分类以及通过检索增强生成（RAG）实施的问答索方式。我们还讨论课程
进行 生成 迁移 体系结构 AI 在内的 模型的 现有的 文本 包括 数据集 先前的 Amazon 领先的 模型 亚马逊 迅速的 原始模型 评估模型 优化 工作负载 Nova 提供 过渡 NOVA LLM 目标模型 完成的 不同的 提示 独特的 使用的