详细内容或原文请订阅后点击阅览
OneAdvanced 如何在英国主权 AWS 上部署 50 多个人工智能代理
了解英国企业软件提供商 OneAdvanced 如何通过在 Amazon SageMaker AI 上自托管 Llama 4 Maverick 和 Llama Guard 4、在 pgvector 上使用 RAG 管道以及在 Amazon ECS 上使用 Strands Agents SDK 构建的 50 多个代理来构建英国主权 AI 平台。
来源:亚马逊云科技 _机器学习这篇文章是与 OneAdvanced 团队共同撰写的
在英国 (UK) 主权 AWS 架构上部署 AI 代理需要对模型托管、数据驻留和代理编排做出仔细的决策。 OneAdvanced 是一家为超过 10,000 家客户提供服务的英国企业软件提供商，需要提供 AI 功能，同时确保任何数据都不会离开英国。当时，他们想要的具体型号 Llama 4 Maverick 和 Llama Guard 4 尚未通过英国地区的托管服务提供。 OneAdvanced 采取了不同的路径：在他们完全控制的 AWS 基础设施上自托管开放权重大型语言模型 (LLM)。
在这篇文章中，我们介绍了 OneAdvanced 如何在 Amazon SageMaker AI 上使用 Llama 4 Maverick 和 Llama Guard 4 构建英国主权 AI 解决方案。该解决方案将 Amazon Aurora PostgreSQL 兼容版支持的检索增强生成 (RAG) 管道与 pgvector 扩展、由 Strands Agents SDK 提供支持的 50 多个专用代理以及在 Amazon Elastic Container Service (Amazon ECS) 上运行的工具层配对。我们将详细介绍架构、关键实施决策和结果。
挑战：数据主权和模型托管
OneAdvanced 为医疗保健、法律和许多其他受监管行业的组织提供以行业为中心的软件即服务 (SaaS) 解决方案。他们的客户每天处理敏感数据，包括患者记录、法律案件文件和合规文档。这些客户希望人工智能工具满足严格的数据驻留、安全和隐私标准。
正如 OneAdvanced 首席技术官 Andrew Henderson 在 OneAdvanced AI 发布视频中所解释的那样：
“数据主权，特别是在英国，对我们的许多客户来说是一项硬性要求，尤其是公共部门和高度监管行业的客户。他们需要确切地知道自己的数据在哪里，谁可以访问这些数据，以及这些数据位于英国的法律和监管框架内，以支持完全合规性和信任。”