详细内容或原文请订阅后点击阅览
在 AWS 上为您的企业构建多租户生成式 AI 环境
虽然组织继续发现生成式人工智能的强大应用，但采用速度往往会因团队孤岛和定制工作流程而减慢。为了加快步伐，企业需要强大的运营模式和简化生成式人工智能生命周期的整体方法。在本系列的第一部分中，我们展示了人工智能管理员如何构建 […]
来源:亚马逊云科技 _机器学习尽管组织不断发现生成式 AI 的强大应用，但采用速度通常会因团队孤岛和定制工作流程而减慢。为了加快步伐，企业需要强大的运营模式和简化生成式 AI 生命周期的整体方法。在本系列的第一部分中，我们展示了 AI 管理员如何构建生成式 AI 软件即服务 (SaaS) 网关，以便为不同的业务线 (LOB) 提供对 Amazon Bedrock 上的基础模型 (FM) 的访问。在第二部分中，我们扩展了解决方案，并展示了如何通过集中常见的生成式 AI 组件来进一步加速创新。我们还深入探讨了访问模式、治理、负责任的 AI、可观察性和常见的解决方案设计，例如检索增强生成。
生成式 AI 第一部分 Amazon Bedrock我们的解决方案使用 Amazon Bedrock，这是一项完全托管的服务，通过单一 API 提供来自领先 AI 公司（如 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon）的高性能基础模型 (FM) 的选择，以及一系列广泛的功能，用于构建具有安全性、隐私性和负责任 AI 的生成式 AI 应用程序。它还使用许多其他 AWS 服务，例如 Amazon API Gateway、AWS Lambda 和 Amazon SageMaker。
Amazon Bedrock Amazon API Gateway AWS Lambda Amazon SageMaker在 AWS 上构建多租户生成式 AI 环境
适合您企业的多租户生成式 AI 解决方案需要满足生成式 AI 工作负载和负责任的 AI 治理的独特要求，同时保持遵守公司政策、租户和数据隔离、访问管理和成本控制。因此，构建这样的解决方案通常是 IT 团队的一项重大任务。
在本文中，我们讨论了关键的设计考虑因素并提出了一个参考架构：