XiaoMi-AI文件搜索系统
World File Search SystemRetrieval
通过顺序学习过程列表以生成检索模型
最近，已经提出了一种新颖的生成检索（GR）范式，其中学会了单个序列到序列模型直接生成有关查询的相关文档标识符（DOCID）列表。现有的GR模型通常采用最大似然估计（MLE）进行优化：这涉及给定输入查询的单个相关文档的可能性最大化，并假设每个文档的可能性独立于列表中的其他文档。我们将这些模型称为本文的重点方法。虽然在GR的背景下已显示出刻的方法有效，但由于其无视基本原则，即排名涉及对列表进行预测，因此被认为是最佳的。在本文中，我们通过引入替代列表方法来解决此限制，该方法赋予GR模型以优化DOCID列表级别的相关性。具体来说，我们将排名的DOCID列表的生成视为一个序列学习过程：在每个步骤中，我们都会学习一个参数子集，这些参数最大化了the -th docID的相应生成可能性，给定（前面）顶部𝑖 -1个文档。为了形式化序列学习过程，我们为GR设计了位置条件概率。为了减轻梁搜索对推断期间发电质量的潜在影响，我们根据相关性等级对模型生成的文档的生成可能性执行相关性校准。我们对代表性的二进制和多层相关性数据集进行了广泛的实验。我们的经验结果表明，在检索性能方面，我们的方法优于最先进的基准。
通过顺序学习过程列表以生成检索模型
最近，已经提出了一种新颖的生成检索（GR）范式，其中学会了单个序列到序列模型直接生成有关查询的相关文档标识符（DOCID）列表。现有的GR模型通常采用最大似然估计（MLE）进行优化：这涉及给定输入查询的单个相关文档的可能性最大化，并假设每个文档的可能性独立于列表中的其他文档。我们将这些模型称为本文的重点方法。虽然在GR的背景下已显示出刻的方法有效，但由于其无视基本原则，即排名涉及对列表进行预测，因此被认为是最佳的。在本文中，我们通过引入替代列表方法来解决此限制，该方法赋予GR模型以优化DOCID列表级别的相关性。具体来说，我们将排名的DOCID列表的生成视为一个序列学习过程：在每个步骤中，我们都会学习一个参数子集，这些参数最大化了the -th docID的相应生成可能性，给定（前面）顶部𝑖 -1个文档。为了形式化序列学习过程，我们为GR设计了位置条件概率。为了减轻梁搜索对推断期间发电质量的潜在影响，我们根据相关性等级对模型生成的文档的生成可能性执行相关性校准。我们对代表性的二进制和多层相关性数据集进行了广泛的实验。我们的经验结果表明，在检索性能方面，我们的方法优于最先进的基准。
RetLLM-E：问题检索提示策略......
本文重点介绍如何使用大型语言模型来帮助助教回答大型学生论坛（如 Piazza 和 EdSTEM）上的问题。由于这些论坛上的学生问题通常与机构、教师和课程传授的特定方面密切相关，因此通用的 LLM 不能直接完成这项任务。我们引入了 RetLLM-E，一种结合文本检索和提示方法的方法，使 LLM 能够对学生的问题提供精确且高质量的答案。当向学生提出问题时，我们的系统会启动一个两步过程。首先，它从 (i) 课程教师提出的学生问题数据集（问答检索）和 (ii) 课程材料的相关部分（文档检索）中检索相关上下文。然后，RetLLM-E 使用检索到的文本和精心设计的提示结构提示 LLM，以得出针对学生问题优化的答案。我们进行了一系列定量和人工评估实验，将我们的方法与学生实际问题测试集中的问题的真实答案进行了比较。结果表明，与没有上下文或仅依赖基于检索的上下文的 LLM 相比，我们的方法对课程相关问题的回答质量更高。RetLLM-E 可以轻松应用于不同的课程，为教师和学生提供上下文感知的自动响应。
使用深度学习和脑电图数据进行信息检索
简介 在不久的将来，我们不会输入命令或说出命令，而是会思考它们。目前，脑机接口已投入使用，并且有可能从使用功能性磁共振成像 (fMRI) 获得的大脑活动记录中生成正在默读的内容的记录 (Tang 等人2023)。最近，已证明使用脑电图 (EEG) 成像进行神经记忆解码是可能的 (Bruns、Haidar 和 Rubino 2023)。神经记忆解码是从大脑数据重建心理回忆的概念。这一发现很重要，因为与 fMRI 不同，EEG 设备价格低廉且舒适。消费者可以购买 EEG 设备并在一天中的大部分时间佩戴它们。使用消费级 EEG 设备进行神经记忆解码表明了一系列令人兴奋的应用。神经信息检索就是这样一种应用。随着互联网上可用的信息越来越多，找到以前遇到过的文档成为一个难题。创建和存储书签不是一个好的解决方案，因为用户创建的标签或关键字是主观的并且很难创建。重新搜索文档的替代方案可能很困难且耗时。使用神经信息检索，只需思考一下就可以检索曾经看到的信息。在此应用程序中（见图1），用户在找到有用的文档或网站后，会在记录简短的 EEG 时对其进行短暂的思考。稍后，为了检索文档，用户在脑电图再次显示时简要回忆文档的内容
通过生成伪标签
密集的检索方法在多语言信息检索中表现出了有希望的表现，其中查询和文档可以使用不同的语言。然而，密集的检索器通常需要大量的配对数据，这在多语言方案中带来了更大的挑战。本文介绍了UMR，这是一个未经任何配对数据的训练的ultialual ultilitual contriever r etriever。我们的方法利用了多语言语言模型的序列估计功能，以获取用于培训密集猎犬的伪标签。我们提出了一个两阶段的框架，该框架迭代地改善了多语言密集猎犬的功能。两个基准数据集的实现结果表明，UMR的表现优于监督的基线，展示了训练Mul-listingual语言检索器而没有配对数据的潜力，从而增强了其实用性。1
融合专家与检索增强生成，增强信息检索和推理
摘要 — 本研究探讨了将检索增强生成 (RAG) 集成到已使用混合专家 (MoE) 的 Mistral 8x7B 大型语言模型 (LLM) 中，以解决其在复杂信息检索和推理任务中现有的局限性。通过利用 Google BIG-Bench 数据集，我们进行了广泛的定量和定性分析，以评估增强模型的性能。结果显示准确率、精确率、召回率和 F1 分数均有显著提高，凸显了增强模型在生成语境丰富、准确且细致入微的响应方面的卓越能力。这种集成展示了一种克服传统 LLM 固有局限性的有希望的方法，标志着人工智能研究的关键进展。我们的研究结果有助于持续开发更具适应性、更高效、更智能的人工智能系统，为人工智能在各个领域的应用开辟新的途径。该研究承认与数据集范围和计算需求相关的限制，并为未来的研究提出了进一步完善和扩展模型适用性的方向。
线性同态加密和私人信息检索
这两个差异仅影响我们密码文本的最低顺序位。因此，我们可以通过简单地设置我们的参数来处理这两个问题，即使误差分布稍大，可以使解密能力高。例如，如果我们设置2 B + 2 更广泛地，我们可以适当地设置参数，以允许在这些LWE密文上执行任何（多项式）的同构添加。 这种线性同态对建立对加密数据执行一些（受限制的）计算的密码系统非常有用，例如，汇总了加密的投票。 在本讲座的其余部分中，我们将看到如何使用它来构建私人信息检索。更广泛地，我们可以适当地设置参数，以允许在这些LWE密文上执行任何（多项式）的同构添加。这种线性同态对建立对加密数据执行一些（受限制的）计算的密码系统非常有用，例如，汇总了加密的投票。在本讲座的其余部分中，我们将看到如何使用它来构建私人信息检索。
检索多媒体文献评论：
摘要 - 多媒体检索是关于多媒体内容中包含的信息的搜索和重新选择。多媒体内容由图像，文本，视频，声音或四个组合组成。多媒体内容，尤其是每年拍摄的数字照片和视频超过1.2万亿的照片。八十五（85）％的多媒体内容是使用智能手机拍摄的，并直接上传到社交媒体上。多媒体内容的堆积将每年继续增长，因此它需要时间在使用的存储媒体中追踪它。多媒体检索可以根据内容的面对所有者对城市进行分类。可以使用人工智能做好面部识别。人工智能的发展也一直在发展，直到机器学习技术的出现为止。目前，许多关于多媒体检索的研究使用了机器学习，这些方法得到了其他AI算法（例如深度学习）的支持。在这项文献研究中，将对面部增强中使用的多媒体检索，机器学习和算法进行研究，以便获得多媒体检索方法的成功率和机器学习方法的结论，以识别面部。
使用 LLM 检索聚合物纳米复合材料的合成参数
自动化材料合成需要历史数据，但从出版物中提取详细数据和元数据具有挑战性。我们制定了初步策略，使用大型语言模型从材料科学文章中快速、自主地提取数据，数据格式可由材料数据库管理。我们使用聚合物纳米复合材料的子域作为示例用例，并通过手动验证演示了概念验证案例研究。我们使用 Claude 2 chat、Open AI GPT-3.5 和 4 API 提取表征方法和有关样品的一般信息，利用零次和少量提示来引出更详细和准确的响应。我们在样本提取任务中使用 Claude 2 chat 获得了最佳结果，F1 得分为 0.88。我们的研究结果表明，语言模型对于从文献中更有效、更实用地检索合成参数非常有用。
从空间中的行星边界层的合成观察结果一个检索系统模拟实验框架
摘要：解决当前地球系统观察策略中国家科学，工程和医学学院确定的关键差距，2017 - 27年对地球科学的十年际调查以及来自空间推荐的孵化概念，以培养未来目标可观察物的概念，包括大气行星层（PBL）。随后的NASA PBL孵化研究团队报告确定了测量要求和活动，以提高适用于PBL有针对性可观察到的技术及其相关科学和应用优先级的技术的成熟度。虽然PBL是人类生活和表面能量，水分和质量交换的关键层，但它也是Spaceborne仪器的最远，最无法接近的层。在这里，我们记录了PBL检索系统模拟实验（OSSE）框架，适用于评估现有和新的测量技术，并确定它们的准确性和改进，以满足升高的十年录取调查要求。尤其是，大型模拟（LES）的益处被强调为关键PBL状态的高分辨率合成观察的关键来源：从热带地区到亚热带和中间次数，到亚极和极性区域。使用六个仪器模拟器探索了基于LES的PBL检索OSSES的潜力：全球导航卫星系统 - 拉迪奥固执，差异吸收雷达，短波红外光谱仪，红外光谱仪，多角度成像光谱仪和微波炉声音。讨论了LES在PBL检索OSSE中的关键作用和仪器发展的一些观点。