XiaoMi-AI文件搜索系统
World File Search SystemCXL
介绍CXL 3.x规格
•内存池允许主机动态扩展/收缩其内存能力以匹配工作负载•通过降低滞留的内存能力来改善TCO•CXL 3.0标准化的OS到设备和织物管理器到设备/开关接口•CXL 3.1扩展了范围，包括织物附件
CXL 2.0内存简介
Lenovo可能不会在所有国家 /地区提供本文档中讨论的产品，服务或功能。请咨询您当地的联想代表，以获取有关您所在地区当前可用的产品和服务的信息。对联想产品，程序或服务的任何引用均无意说明或暗示只能使用Lenovo产品，程序或服务。可以使用任何不侵犯任何联想知识产权权的功能等效产品，程序或服务。但是，用户有责任评估和验证任何其他产品，程序或服务的操作。联想可能拥有专利或尚有专利申请，涵盖本文档中描述的主题。本文档的家具没有为您提供这些专利的任何许可。您可以以书面形式发送许可证查询：
CXL-ANNS：软硬件协作内存分解和十亿级近似最近邻搜索计算
摘要 我们提出了 CXL-ANNS，这是一种软硬件协作方法，可实现高度可扩展的近似最近邻搜索 (ANNS) 服务。为此，我们首先通过计算快速链路 (CXL) 将 DRAM 从主机中分离出来，并将所有必要的数据集放入其内存池中。虽然这个 CXL 内存池可以使 ANNS 能够在不损失准确性的情况下处理十亿点图，但我们观察到由于 CXL 的远内存类特性，搜索性能会显著下降。为了解决这个问题，CXL-ANNS 考虑节点级关系并将预计访问最频繁的邻居缓存在本地内存中。对于未缓存的节点，CXL-ANNS 通过了解 ANNS 的图遍历行为预取一组最有可能很快访问的节点。CXL-ANNS 还了解 CXL 互连网络的架构，并让其中的不同硬件组件并行协作搜索最近邻居。为了进一步提高性能，它放宽了邻居搜索任务的执行依赖性，并通过充分利用 CXL 网络中的所有硬件来最大化搜索并行度。我们的实证评估结果表明，与我们测试的最先进的 ANNS 平台相比，CXL-ANNS 的 QPS 提高了 111.1 倍，查询延迟降低了 93.3%。在延迟和吞吐量方面，CXL-ANNS 也分别比仅具有 DRAM（具有无限存储容量）的 Oracle ANNS 系统高出 68.0% 和 3.8 倍。