了解 Amazon Bedrock 模型生命周期

本文向您展示如何在 Amazon Bedrock 中管理 FM 转换,以便您可以确保您的 AI 应用程序随着模型的发展保持运行。我们讨论了三种生命周期状态、如何使用新的扩展访问功能来规划迁移,以及在不中断的情况下将应用程序迁移到新模型的实用策略。

来源:亚马逊云科技 _机器学习

Amazon Bedrock 定期发布新的基础模型 (FM) 版本,具有更好的功能、准确性和安全性。了解模型生命周期对于有效规划和管理基于 Amazon Bedrock 构建的 AI 应用程序至关重要。在迁移应用程序之前,您可以通过 Amazon Bedrock 控制台或 API 测试这些模型,以评估其性能和兼容性。

本文向您展示如何在 Amazon Bedrock 中管理 FM 转换,以便您可以确保您的 AI 应用程序随着模型的发展保持运行。我们讨论了三种生命周期状态、如何使用新的扩展访问功能来规划迁移,以及在不中断的情况下将应用程序迁移到新模型的实用策略。

Amazon Bedrock 模型生命周期概述

Amazon Bedrock 上提供的模型可以以三种状态之一存在:活动、旧版或寿命终止 (EOL)。它们的当前状态在 Amazon Bedrock 控制台和 API 响应中均可见。例如,当您进行 GetFoundationModel 或 ListFoundationModels 调用时,模型的状态将显示在响应的 modelLifecycle 字段中。

下图说明了每个模型状态的详细信息。

状态详细信息如下:

  • ACTIVE – 活动模型从其提供商那里获得持续的维护、更新和错误修复。当模型处于活动状态时,您可以通过 InvokeModel 或 Converse 等 API 将其用于推理、对其进行自定义(如果支持),并通过 AWS Service Quotas 请求配额增加。
  • 模型在 Amazon Bedrock 上发布后,会在发布后至少 12 个月内保持可用状态,并在 EOL 之前保持在旧版状态至少 6 个月。此时间表可帮助客户不着急地规划迁移。

    扩展访问期间的定价

    模型状态变化的通信流程

  • 电子邮件通知
  • AWS 运行状况仪表板
  • Amazon Bedrock 控制台中的警报
  • 通过 API 进行编程访问。
  • 迁移策略和最佳实践

    规划迁移时间表

    结论