详细内容或原文请订阅后点击阅览
Twitch 如何在 Amazon Bedrock 上使用 RAG 的代理工作流来增强广告销售
在本文中,我们展示了我们如何创新地构建具有代理工作流和 Amazon Bedrock 上的知识库的检索增强生成 (RAG) 应用程序。我们在基于 Slack 聊天的助手中实施了 RAG 管道,以使 Amazon Twitch 广告销售团队能够快速抓住新的销售机会。
来源:亚马逊云科技 _机器学习Twitch 是全球领先的直播平台,平均每月有超过 1.05 亿访客。作为亚马逊的一部分,Twitch 广告由亚马逊的广告销售部门负责。不同市场的新广告产品涉及复杂的公告、培训和文档网络,这使得销售团队难以快速找到准确的信息。2024 年初,亚马逊发起了一项重大举措,旨在利用 Twitch 的力量为全球广告商服务。这需要将 Twitch 知识推广到亚马逊的所有广告销售部门。手头的任务对内部销售支持团队来说尤其具有挑战性。每位专家对应超过 30 名卖家,在公共渠道中提出的问题通常平均需要 2 小时才能得到初步答复,20% 的问题根本没有得到答复。总而言之,从广告商的请求到第一次广告活动启动的整个过程可能长达 7 天。
Twitch在这篇文章中,我们展示了如何创新地构建具有代理工作流和 Amazon Bedrock 上的知识库的检索增强生成 (RAG) 应用程序。我们在基于 Slack 聊天的助手中实施了 RAG 管道,以使 Amazon Twitch 广告销售团队能够快速抓住新的销售机会。我们讨论了构建多模式知识库、推动代理工作流、使用元数据解决幻觉的解决方案组件,并分享了通过使用多个大型语言模型 (LLM) 和 Amazon Bedrock 知识库进行解决方案开发所获得的经验教训。
检索增强生成 Amazon Bedrock 大型语言模型 Amazon Bedrock 知识库解决方案概述
推动此解决方案的关键架构组件包括: