使用Amazon Bedrock

传统的检索增强发电(RAG)系统通过摄入和维护可能永远不会查询的文档的嵌入来消耗宝贵的资源,从而导致不必要的存储成本和降低的系统效率。这篇文章提出了一个即时知识库解决方案,该解决方案通过智能文档处理来减少未使用的消费。该解决方案仅在需要时处理文档,并自动删除未使用的资源,因此组织可以扩展其文档存储库,而无需按比例增加基础架构成本。

来源:亚马逊云科技 _机器学习
软件作为服务(SaaS)公司管理多个租户面临着一个关键的挑战:在控制成本的同时,有效地从广泛的文档收集中提取有意义的见解。传统方法通常会导致不必要的存储和处理资源支出,从而影响运营效率和盈利能力。组织需要解决方案,这些解决方案可以根据实际的租户使用模式智能扩展处理和存储资源,同时保持数据隔离。传统的检索增强发电(RAG)系统通过摄入和维护可能永远不会查询的文档的嵌入来消耗宝贵的资源,从而导致不必要的存储成本和降低系统效率。旨在处理大量中小型租户的系统可以超过成本结构和基础设施限制,或者可能需要使用筒仓风格的部署来保持每个租户的信息和使用分开。除了这种复杂性外,许多项目本质上是短暂的,工作是间歇性完成的,从而导致数据占用知识库系统中的数据占据了空间,而其他活跃的租户可以使用。解决这些挑战,这篇文章提出了一种恰当的知识基础解决方案,从而通过智能文档处理来减少未使用的消费。该解决方案仅在需要时才能进行文档,并自动删除未使用的资源,因此组织可以在不成比例增加基础架构成本的情况下扩展其文档存储库。使用每个租户可配置的多租户架构,服务提供商可以提供分层定价模型,同时为SAAS提供严格的数据隔离,使其适用于SAAS应用多个客户,并提供多个服务客户的服务。自动文档通过时间到生命的(TTL)到期