详细内容或原文请订阅后点击阅览

在

2025年4月22日 17:15 33 Comments
X Twitter Instagram Mail

今天，我们很高兴地宣布亚马逊基岩智能及时路由的一般可用性。在这篇博客文章中，我们详细介绍了内部测试的各种亮点，如何开始，并指出一些警告和最佳实践。我们鼓励您将Amazon Bedrock智能及时路由纳入您的新的和现有的生成AI应用程序中。

来源:亚马逊云科技 _机器学习
在12月，我们宣布了亚马逊基岩智能及时路由的预览可用性，该路由提供一个无服务器端点，以在同一模型家族中不同基础模型之间有效路由路由请求。为此，亚马逊基岩智能提示动态地预测了请求的每个模型的响应质量，并将请求路由到其确定的模型最适合基于成本和响应质量，如下图所示，我们很乐意宣布，我们很乐意宣布亚马逊床架智能及时及时及时的一般可用性。在过去的几个月中，我们根据客户反馈和广泛的内部测试进行了一些智能及时路由的改进。我们的目标是使您能够通过Amazon BedRock智能及时及时的及时及其在每个模型家庭中的模型行为之间进行自动化，最佳的路线（LLM）之间，这将结合了针对不同模型，任务和提示的培训路由器的最先进方法。在此博客中，我们可以从我们的内部测试中详细介绍各种启动的练习，以及您如何开始进行一些启动，并开始使用一些启动。我们鼓励您将Amazon Bedrock智能及时路由纳入您的新的和现有的生成AI应用程序中。让我们潜入！亮点和改进台，您可以使用Amazon Bedrock智能提示与亚马逊基岩提供的默认提示路由器进行路由，或配置自己的提示路由器以在两个候选LLMS的性能之间进行线性调整。 默认提示路由器 - 配置配置的路由系统将性能映射到两种模型的性能较高，同时通过向廉价型号发送更便捷的提示来降低成本 - 亚马逊Bedrock为每个模型家族提供了。这些路由器具有预定义的设置，旨在使用特定的基础M
进行 预定义 服务器 启动 基岩 过去的 启动的 Bedrock 模型的 可用性 现有的 智能 Amazon 模型 提示 亚马逊 动态 自己的 确定的 低成本 自动化 配置 提供 根据 及时的 应用程序 线性调整 及时 最佳的 广泛的 路由器 路由 特定的 质量