XiaoMi-AI文件搜索系统
World File Search System推断
反转问题：为什么算法应推断精神状态，而不仅仅是预测行为
有两种方法可以分析有关人的数据，如果您愿意的话，有两种“文化”（Breiman，2001； Snow，1959）。一个人是心理学文化 - 现在已经超过一个世纪了，完全熟悉。对于行为科学家来说，1个数据是一种结束的手段，用于改善我们关于人类思想的理论。数据可用于测试竞争理论并开发新的理论。最终，数据都是为了让我们了解理论是正确和重要的。另一种文化（将其称为机器学习文化）是新的，但迅速增长。这种文化就是要使用大量的行为数据来预测人们会做什么。这种文化所产生的算法现在在社会的范围内广泛运作，包括在社交媒体上为人们策划内容，推荐产品（书籍，电影等）。），并自动化专家决策。机器学习文化与心理文化形成鲜明对比。它是成功的算法，在不利用心理学的理论见解的情况下成功地预测行为。
评估BERT和CHATGPT模型中的推断，释义和相似性任务
摘要。本文的目的是研究在机械工程领域的Chatgpt和Bert模型的应用。在机器学习的背景下，ChatGPT和BERT模型可以应用于各种自然语言处理任务，例如根据文档的特定版本分析技术文档和构建说明，诊断出故障或客户服务。本文讨论了Bert和Chatgpt模型的基本特征，其起源，还研究了主要的建筑特征，并确定了模型的主要优势和缺点。论文分析并选择各种自然语言处理任务，以测试模型在机器学习中理解自然语言的能力。选定的标准任务分为语义组，以在三个领域的每个领域中识别Chatgpt和Bert模型的功能：逻辑推理任务，释义任务和文本相似性任务。本文还讨论了操作设计的概念，该概念涉及开发指导模型产生所需输出的输入。本文定量分析并比较了基于BERT和CHATGPT模型的性能。发现和研究了自然语言理解任务中Chatgpt模型瓶颈的原因。考虑使用Mivar方法对CHATGPT模型性能的可能改进。
质量证明：无信任的生成AI模型推断区块链
抽象生成的AI模型（例如GPT-4和稳定的扩散）在自然语言和图像任务中表现出强大而破坏性的功能。但是，将这些模型部署在分散环境中仍然具有挑战性。与传统的集中部署不同，从系统上保证了在完全分散的环境中AI模型服务的完整性，特别是在无信任的区块链上，既重要又困难。在本文中，我们提出了一种称为质量证明（POQ）的新推论范式，以使在区块链体系结构上的任意大型生成模型中部署。与基于验证推理程序（例如ZKML或OPML）的传统方法不同，我们的POQ范式着重于模型推理的结果质量。使用基于BERT的轻质跨编码器作为我们的基本质量评估模型，我们设计和实施PQML，这是对区块链现实世界中NLP生成模型推断的第一个实用协议，该模型针对流行的开源模型量身定制，例如Llama 3和Mixtral。我们的分析表明，我们的协议对生态系统中的对抗性但理性的参与者具有牢固的态度，在这种情况下，与行为良好的参与者相比，懒惰或不诚实的行为较少。验证质量评估的计算开销很小，即使仅使用CPU，也可以在几秒钟内完成质量检查。初步仿真结果表明，POQ共识以毫秒为单位生成，比任何现有方案都快1,000倍。
通过稳定地形的空间推断对数字高程模型进行不确定性分析
摘要 — 随着数字高程模型 (DEM) 的可用性和分辨率不断提高，对地球和行星表面高程的更大和更精细尺度的监测正在迅速发展。表面高程观测正被用于越来越多的领域，以研究地形属性及其随时间的变化，特别是在冰川学、水文学、火山学、地震学、林业和地貌学中。然而，DEM 通常包含大规模仪器噪声和不同的垂直精度，从而导致复杂的错误模式。在这里，我们提出了一个经过验证的统计工作流程来估计、建模和传播 DEM 中的不确定性。我们回顾了 DEM 准确度和精度分析的最新进展，并定义了一个概念框架来一致地解决这些问题。我们展示了如何通过量化高程测量的异方差来表征 DEM 精度，即随地形或传感器相关变量而变化的垂直精度，以及可能在多个空间尺度上发生的误差的空间相关性。随着高精度观测的日益普及，我们基于在稳定地形上获取的独立高程数据的工作流程几乎可以应用于地球上的任何地方。我们以地形坡度和冰川体积变化为例，说明了如何传播像素尺度和空间高程导数的不确定性。我们发现文献中大大低估了 DEM 中的不确定性，并主张新的 DEM 精度指标对于确保未来陆地高程评估的可靠性至关重要。
通过模型交换来迈向Edgeai服务的低成本和能量意识推断
摘要 - 在过去的十年中，人工智能（AI）和Edge Computing（EC）的关键进步已导致Edgeai服务的发展，以提供对关键任务应用必不可少的智能和低潜伏期响应。但是，Edgeai服务对网络极端的扩展可能会面临挑战，例如负载波动，导致AI推断延迟以及对能源效率的担忧。本文提出了“模型交换”，其中Edgeai服务使用的模型将与另一个随时可用的模型交换，以便在运行时推理任务中实现成本和能源节省。ModelSwapper可以通过采用低成本算法技术来实现这一目标，该技术探讨了计算开销与模型准确性之间有意义的权衡。这样做，边缘节点通过用更简单的模型代替复杂模型来适应负载波动，从而满足所需的延迟需求，尽管不确定性较高。我们使用两种EDGEAI服务（对象检测，NLU）进行评估表明，ModelSwapper可以显着减少至少27％和68％的能量使用和推理延迟，而准确性仅降低了1％。索引术语 - 机器学习，边缘计算
deer-vla：多模式的大型语言模型的动态推断，以实现机器人的执行
多模式大语模型（MLLM）具有复杂的语言和视觉数据表现出了显着的理解和推理能力。这些进步刺激了建立通才的机器人MLLM熟练理解复杂人类指示并完成各种体现任务的愿景。然而，由于机器人平台上可用的计算和内存能力通常有限，为现实世界机器人开发MLLM是具有挑战性的。相比之下，MLLM的推断涉及存储数十亿个Pa-Rameters并执行巨大的计算，并施加了巨大的硬件需求。在我们的论文中，我们试图通过利用有趣的观察来应对这一挑战：相对容易的情况构成了控制机器人以完成各种任务的大部分程序，并且通常需要更小的模型才能获得正确的机器人动作。以这种观察的启发，我们提出了一个d ynally e xit框架，用于r obotot v ision-l an an an an an an an an an an an an a an an an a an an a an a an an a ction模型（deer-vla或Simpple Deer），该模型会根据每个情况自动调整激活的MLLM的大小。该方法利用了MLLM中的多exit档案，该方法一旦在特定情况下激活了模型的适当大小，该模型就可以终止处理，从而避免了进一步的冗余计算。此外，我们开发了建立鹿的早期终止标准的新型算法，以预定义的要求（例如，计算成本）（即，功耗）以及峰值计算消耗（即，延迟）和GPU内存使用量。这些增强功能确保鹿在不同的资源限制下有效运行，同时保持竞争性能。此外，我们设计了一种量身定制的培训方法，用于在此类多EXIT体系结构之上集成时间信息，以合理地进行预先操作。在加尔文机器人操纵基准上，鹿表明，LLM的计算成本显着降低了5.2-6.5倍，而LLM的GPU记忆则在2-6倍中，而不会损害性能。代码和检查点可在https://github.com/yueyang130/deer-vla上找到。
用于 NMR 模型推断的量子近似贝叶斯计算
过去几年中，量子技术面临的核心挑战之一是寻找近期量子机器的有用应用 1 。尽管在增加量子比特数量和提高其质量 2、3 方面已经取得了长足的进步，但在不久的将来，我们预计可靠门的数量将受到噪声和退相干的限制——即所谓的嘈杂中尺度量子时代。因此，提出了混合量子-经典方法，以充分利用现有的量子硬件并用经典计算对其进行补充。最值得注意的是，量子近似优化算法（QAOA） 4 和变分量子特征求解器（VQE） 5 的发展。这两种算法都使用量子计算机来准备变分状态，其中一些变分状态可能无法通过经典计算获得，但使用经典计算机来更新变分参数。已经进行了大量实验，证明了这些算法的可行性 6 – 8 ，但它们对现实问题的影响仍不清楚。在基于模型的统计推断中，人们经常面临类似的问题。对于简单模型，可以找到似然值并使其最大化，但对于复杂模型，似然值通常是难以处理的 9,10。NMR 波谱就是一个很好的例子。对于应该使用的模型类型有很好的理解（公式 (1)），人们只需要确定适当的参数。然而，计算特定模型的 NMR 波谱需要在指数级大的希尔伯特空间中执行计算，这对经典计算机来说极具挑战性。这一特性是提出将 NMR 作为量子计算平台的最初动机之一。尽管已经证明 NMR 实验中不存在纠缠 12,13，但强相关性使其在经典上难以处理；也就是说，算子 Schmidt 秩呈指数增长，例如，这禁止有效的表示
通过条件似然差异对文本到图像扩散模型进行成员推断
文本到图像的扩散模型在可控图像生成领域取得了巨大成功，同时也带来了隐私泄露和数据版权问题。成员资格推断在此背景下作为检测未经授权数据使用的潜在审计方法而出现。虽然人们对扩散模型进行了一些研究，但由于计算开销和增强的泛化能力，它们并不适用于文本到图像的扩散模型。在本文中，我们首先发现文本到图像的扩散模型中的条件过拟合现象，表明这些模型倾向于在给定相应文本的情况下过拟合图像的条件分布，而不仅仅是图像的边际分布。基于这一观察，我们推导出一个分析指标，即条件似然偏差（CLiD），以进行成员资格推断，这降低了估计单个样本记忆的随机性。实验结果表明，我们的方法在各种数据分布和数据集规模上都明显优于以前的方法。此外，我们的方法表现出对过度拟合缓解策略（例如早期停止和数据增强）的卓越抵抗力。
对物种识别的深度学习与捕食者 - 捕集的推断之间的权衡
深度学习用于在几个科学领域的重要应用中使用的计算机视觉问题。在生态学中，对深度学习的兴趣日益增加，以对大量图像（例如动物物种鉴定）进行重复分析。 但是，生态学家的社会性涉及深入学习的广泛采用有挑战性的问题。 首先，有一个编程障碍，因为大多数算法都是用python编写的，而大多数生态学家则精通R。 第二，深度学习在生态学中的最新应用集中在计算方面和简单任务上，而无需解决潜在的生态问题或进行统计数据分析以回答这些问题。 在这里，我们展示了可重复的R工作流程，该工作流程使用Predator-Prey关系作为案例研究整合了深度学习和统计模型。 我们说明了在用相机陷阱收集的图像上识别动物物种的深度学习，并使用多物种占用模型来量化空间同时存在。 尽管平均模型分类性能，但无论我们分析了地面真相数据集还是分类数据集，生态推断都是相似的。 此结果要求在分配的时间和资源之间进行进一步的工作，分配给具有深度学习的模型以及我们通过生物多样性监测正确解决关键生态问题的能力。 我们希望我们可重复的工作流对生态学家和应用统计学家有用。在生态学中，对深度学习的兴趣日益增加，以对大量图像（例如动物物种鉴定）进行重复分析。但是，生态学家的社会性涉及深入学习的广泛采用有挑战性的问题。首先，有一个编程障碍，因为大多数算法都是用python编写的，而大多数生态学家则精通R。第二，深度学习在生态学中的最新应用集中在计算方面和简单任务上，而无需解决潜在的生态问题或进行统计数据分析以回答这些问题。在这里，我们展示了可重复的R工作流程，该工作流程使用Predator-Prey关系作为案例研究整合了深度学习和统计模型。我们说明了在用相机陷阱收集的图像上识别动物物种的深度学习，并使用多物种占用模型来量化空间同时存在。尽管平均模型分类性能，但无论我们分析了地面真相数据集还是分类数据集，生态推断都是相似的。此结果要求在分配的时间和资源之间进行进一步的工作，分配给具有深度学习的模型以及我们通过生物多样性监测正确解决关键生态问题的能力。我们希望我们可重复的工作流对生态学家和应用统计学家有用。
在单个神经元分辨率下，全脑动力学的大量平行因果推断
摘要 - 经验动态建模（EDM）是一个非线性时间序列因果推理框架。由于计算成本，EDM的最新实现CPPEDM仅用于小型数据集。随着数据收集能力的增长，非常需要在大型数据集中识别因果关系。我们提出了MPEDM，这是针对以现代GPU为中心的超级计算机优化的EDM的平行分布式实现。我们改进了原始算法，以减少冗余计算并优化实现，以充分利用硬件资源，例如GPU和SIMD单元。作为用例，我们使用以单个神经元分辨率采样的整个动物大脑的数据集在AI桥接云基础架构（ABCI）上运行MPEDM，以识别整个大脑的动态因果模式。MPEDM比CPPEDM快1,530×，并且在512个节点的199秒内分析了包含101,729个神经元的数据集。这是迄今为止最大的EDM因果推论。