比例生成AI用例,第1部分:使用AWS Transit Gateway

n这个由两部分组成的系列,我们讨论了一个枢纽和讲话架构模式,用于构建多租户和多学院的体系结构。该模式支持跨用例和团队共享服务的抽象,有助于创建安全,可扩展和可靠的生成AI系统。在第1部分中,我们使用AWS Transit Gateway提供跨学科互操作性,提出了用于生成AI服务抽象和特定于租户的辐条的集中式枢纽。

来源:亚马逊云科技 _机器学习
生成的AI继续重塑业务如何处理创新和解决问题。客户正在从其组织中从实验到扩展生成的AI用例,越来越多的企业将这些技术完全集成到其核心流程中。这种演变跨越了业务线(LOB),团队和软件作为服务(SaaS)提供商。尽管许多AWS客户通常从单个AWS帐户开始,用于运行生成AI的概念验证用例,但对生产环境的越来越多的采用和过渡引入了新的挑战。这些挑战包括有效管理和扩展实施和扩展实现和重复共同的问题,以及诸如多景观,隔离,隔离,隔离,真实,授权,安全网络,安全网络,速度和限制和限制。为了有效地解决这些挑战,多门体系结构被证明是有益的,尤其是对于为多个企业客户,具有不同部门的大型企业和具有严格合规性要求的组织提供服务的SaaS提供商。通过为您的AWS环境提供更好的组织,安全性和可扩展性,这种多学院方法有助于维护良好的系统。它还使您能够在不断扩展的生成AI实现中更有效地管理这些共同的问题。在这个两部分的系列中,我们讨论了一个集线器和辐条体系结构模式,用于构建多租户和多学院的体系结构。该模式支持跨用例和团队共享服务的抽象,有助于创建安全,可扩展和可靠的生成AI系统。在第1部分中,我们使用AWS Transit Gateway提供跨学科互操作性,提出了用于生成AI服务抽象和特定于租户的辐条的集中式枢纽。该集线器帐户是最终用户请求的入口点,集中了共享功能,例如身份验证,授权,模型访问和路由决策