建筑师在AWS上成熟的生成AI基础

在这篇文章中,我们概述了建立了良好的生成AI基础,深入研究了其组成部分,并提出了端到端的视角。我们查看不同的操作模型,并探讨了这些基础如何在这些边界内运作。最后,我们提出了一个成熟模型,该模型可帮助企业评估其演化路径。

来源:亚马逊云科技 _机器学习
生成的AI应用程序似乎很简单 - 涉及具有正确上下文的基础模型(FM)以生成响应。实际上,这是一个更复杂的系统,涉及工作流,可调用FMS,工具和API,并使用特定于域的数据来通过诸如检索增强发电(RAG)和涉及代理的工作流程等模式进行基础响应。安全控制需要应用于输入和输出以防止有害内容,并且必须建立基础元素,例如监视,自动化以及连续的集成和交付(CI/CD),需要在生产中运行这些系统。许多组织已经sil sil sil sil sil ni In ini Initiatives,由各个部门和业务人士独立管理(Loverses and Loesseres and Loesseres)(Lobers和Lobs)(Lobs)。这通常会导致零散的努力,冗余过程以及不一致的治理框架和政策的出现。为了应对这些挑战,资源分配和利用率的效率低下促进了成本,组织越来越多地采用统一的方法来构建应用程序,在这些应用程序中,将基本的构建块作为向群落和团队提供的服务,以开发生成AI应用程序。这种方法促进了集中的治理和运营。一些组织使用“生成AI平台”一词来描述这种方法。这可以适应组织的不同操作模型:集中,分散和联合。 A generative AI foundation offers core services, reusable components, and blueprints, while applying standardized security and governance policies.This approach gives organizations many key benefits, such as streamlined development, the ability to scale generative AI development and operations across organization, mitigated risk as central management simplifies implementation of governance frameworks, optimized costs because of reuse, and accelerated innovation as teams can quickly build and ship use cases.In这个