详细内容或原文请订阅后点击阅览
使用 Amazon Bedrock 实施生成式 AI 工作负载并扩展到数百个用例 – 第 1 部分：GenAIOps
在我们的两部分系列的第一部分中，您将学习如何针对生成式 AI 工作负载改进现有的 DevOps 架构并实施 GenAIOps 实践。我们将展示不同生成式人工智能采用级别的实际实施策略，重点关注消费基础模型。
来源:亚马逊云科技 _机器学习企业组织正在迅速从生成式 AI 实验转向生产部署和复杂的代理 AI 解决方案，面临着扩展、安全、治理和运营效率方面的新挑战。本博客文章系列介绍了生成式 AI 操作 (GenAIOps)，即 DevOps 原则在生成式 AI 解决方案中的应用，并演示了如何将其实施到由 Amazon Bedrock 提供支持的应用程序中。Amazon Bedrock 是一项完全托管的服务，提供行业领先的基础模型 (FM) 选项以及构建生成式 AI 应用程序所需的广泛功能。
在我们的两部分系列的第一部分中，您将学习如何针对生成式 AI 工作负载改进现有的 DevOps 架构并实施 GenAIOps 实践。我们将展示不同生成式人工智能采用水平的实际实施策略，重点关注消费基础模型。有关基础模型训练、模型微调和模型蒸馏的信息，请参阅我们单独的资源。第二部分介绍了 AgentOps 和用于在生产中扩展代理 AI 应用程序的高级模式。
从 DevOps 到 GenAIOps
多年来，企业已成功地将 DevOps 实践嵌入到应用程序生命周期中，简化了传统软件解决方案的持续集成、交付和部署。随着他们在生成式 AI 采用级别上取得进展，他们很快发现传统的 DevOps 实践不足以管理大规模的生成式 AI 工作负载。传统的 DevOps 强调开发和运营团队之间的无缝协作，并处理具有可预测输出的确定性系统，而 AI 输出的不确定性、概率性性质要求组织改变其生成式 AI 支持的解决方案的生命周期管理方式。 GenAIOps 可以帮助您：