XiaoMi-AI文件搜索系统
World File Search System互信息
通过子模性近似非近视传感器选择...
摘要 — 随着传感器变得越来越复杂和普遍，它们也呈现出了自身的成本效益和时效性问题。选择能够以最低成本、最及时、最高效的方式提供最多信息的传感器集变得越来越重要。两种典型的传感器选择问题出现在广泛的应用中。第一种类型涉及选择在预算限制内提供最大信息增益的传感器集。另一种类型涉及选择优化信息增益和成本之间权衡的传感器集。不幸的是，由于传感器子集的指数搜索空间，两者都需要大量计算。本文提出了有效的传感器选择算法来解决这两个传感器选择问题。用贝叶斯网络建模传感器与传感器旨在评估的假设之间的关系，并通过互信息评估传感器相对于假设的信息增益（收益）。我们首先证明互信息在放松条件下是一个子模函数，这为所提出的算法提供了理论支持。对于预算限制情况，我们引入了一种贪婪算法，该算法具有一个常数因子 (1 − 1 /e)，可保证最佳性能。提出了一种分区程序，通过高效计算互信息以及减少搜索空间来提高算法的计算效率。F
实空间量子场的纠缠
我们引入了一种新方法，可以分析确定两个不同空间位置的量子场配置之间的纠缠熵（和相关量），量子场要么是自由的，要么与经典源相互作用。我们展示了如何用二分连续高斯系统描述这种设置。这使我们能够仅根据场的傅里叶空间功率谱推导出纠缠熵、互信息和量子不和谐的明确和精确公式。这与以前的研究形成了鲜明对比，以前的研究主要依赖于数值考虑。为了说明这一点，我们将我们的形式化应用于平坦空间中的无质量场，其中导出的精确表达式仅涉及场粗粒度区域的大小与这些区域之间的距离之比。特别是，我们恢复了一个众所周知的事实，即互信息在远距离处以该比率的四次方衰减，正如之前在数值研究中观察到的那样。我们的方法导致了这个结果的第一次分析推导，以及一个也适用于任意距离的精确公式。最后，我们确定了量子不和谐并发现它完全消失了（除非在涂抹球体上进行粗粒化，在这种情况下它遵循与互信息相同的远距离抑制）。
通过子模性近似非近视传感器选择...
摘要 — 随着传感器变得越来越复杂和普遍，它们也呈现出了自身的成本效益和时效性问题。选择能够以最低成本、最及时、最高效的方式提供最多信息的传感器集变得越来越重要。两种典型的传感器选择问题出现在广泛的应用中。第一种类型涉及选择在预算限制内提供最大信息增益的传感器集。另一种类型涉及选择优化信息增益和成本之间权衡的传感器集。不幸的是，由于传感器子集的指数搜索空间，两者都需要大量计算。本文提出了有效的传感器选择算法来解决这两个传感器选择问题。用贝叶斯网络建模传感器与传感器旨在评估的假设之间的关系，并通过互信息评估传感器相对于假设的信息增益（收益）。我们首先证明互信息在放松条件下是一个子模函数，这为所提出的算法提供了理论支持。对于预算限制情况，我们引入了一种贪婪算法，该算法具有一个常数因子 (1 − 1 /e)，可保证最佳性能。提出了一种分区程序，通过高效计算互信息以及减少搜索空间来提高算法的计算效率。F
远距离三方信息 摘要 目录
我们计算了 CFT 中三个球体的长距离三部分信息的首项。该首项为 r − 6 ∆ ，其中 r 是球体之间的典型距离，∆ 是最低主场维度。系数结果是来自二点和三点函数的项的组合，并且取决于场的 OPE 系数。我们用晶格中的三维自由标量检查结果，发现它们非常吻合。当最低维场为标量时，我们发现只有对相当大的 OPE 系数，远离微扰区域，互信息才能是单一的。当最低维主场为费米子时，我们认为缩放速度必须始终快于 r − 6 ∆ f 。具体而言，晶格计算表明首项缩放为 r − ( 6 ∆ f + 1 )。对于三维中的自由费米子，我们表明，在长距离范围内，互信息也是非一夫一妻制的。
量子达尔文主义、放大和起源......
“从使系统 S 退相干的环境 E 的片段 F 中可以提取多少有关系统 S 的信息？”是量子达尔文主义的核心问题。迄今为止，大多数答案都依赖于 SF 的量子互信息，或通过直接测量 S 提取的数据。这些是真正需要的合理上限，但计算起来要困难得多——片段 F 对于有关 S 的信息的通道容量。我们考虑一个基于不完美 c-not 门的模型，其中可以计算上述所有内容，并讨论其对客观经典现实出现的影响。我们发现所有相关量，例如量子互信息以及通道容量都表现出类似的行为。在与客观经典现实的出现相关的机制中，这包括与不完美 c-not 门的质量或 E 的大小无关的缩放，甚至几乎与 S 的初始状态无关。
脑电图分类在...
摘要 — 对脑电图 (EEG) 信号进行分类有助于理解脑机接口 (BCI)。EEG 信号对于研究人类思维方式至关重要。在本文中，我们使用了由计算前信号 (BCS) 和计算期间信号 (DCS) 组成的算术计算数据集。该数据集包含 36 名参与者。为了了解大脑中神经元的功能，我们对 BCS 和 DCS 进行了分类。对于这种分类，我们提取了各种特征，例如互信息 (MI)、锁相值 (PLV) 和熵，即排列熵、谱熵、奇异值分解熵、近似熵、样本熵。这些特征的分类是使用基于 RNN 的分类器完成的，例如 LSTM、BLSTM、ConvLSTM 和 CNN-LSTM。当使用熵作为特征并使用 ConvLSTM 作为分类器时，该模型的准确率达到 99.72%。索引词 — 脑机接口、脑电图、循环神经网络、互信息、相位锁定值、熵。
远距离三方信息 摘要 目录
我们计算了 CFT 中三个球体的长距离三部分信息的首项。该首项为 r − 6 ∆ ，其中 r 是球体之间的典型距离，∆ 是最低主场维度。系数结果是来自二点和三点函数的项的组合，并且取决于场的 OPE 系数。我们用晶格中的三维自由标量检查结果，发现它们非常吻合。当最低维场为标量时，我们发现只有对相当大的 OPE 系数，远离微扰区域，互信息才能是单一的。当最低维主场为费米子时，我们认为缩放速度必须始终快于 r − 6 ∆ f 。具体而言，晶格计算表明首项缩放为 r − ( 6 ∆ f + 1 )。对于三维中的自由费米子，我们表明，在长距离范围内，互信息也是非一夫一妻制的。
信息扰乱——量子热力学视角
摘要 — 量子信息科学的最新进展揭示了量子多体系统的复杂动力学，量子信息扰乱就是一个很好的例子。受量子信息热力学的启发，这一观点旨在综合几项关键研究的关键发现并探索量子扰乱的各个方面。我们考虑了诸如非时间有序相关器 (OTOC)、量子互信息和三部分互信息 (TMI) 之类的量词，它们与热力学的联系，以及它们在理解混沌与可积量子系统中的作用。我们重点关注代表性示例，涵盖了一系列主题，包括量子信息扰乱的热力学以及量子引力模型（如 Sachdev-Ye-Kitaev (SYK) 模型）中的扰乱动力学。研究这些不同的方法使我们能够强调量子信息扰乱的多面性及其在理解量子力学和热力学交叉领域的量子多体动力学基本方面的重要性。
深度学习的信息瓶颈理论
在过去的几年中，我们开发了一套全面的深度神经网络 (DNN) 大规模学习理论，并使用随机梯度下降 (SGD) 进行优化。该理论建立在三个理论组成部分之上：(1) 重新思考标准（类似 PAC）分布独立的最坏情况泛化界限 - 将它们转变为独立于模型架构的问题相关典型（信息论意义上的）界限。(2) 信息平面定理：对于大规模典型学习，样本复杂度和准确度权衡仅由两个数字来描述：表示（网络中的一层）在输入模式上维护的互信息，以及每层对所需输出标签的互信息。编码器和解码器信息值之间的信息理论最优权衡由规则特定输入输出分布的信息瓶颈 (IB) 界限给出。(3) DNN 的各层通过标准 SGD 训练在高维（输入和层）中达到这个最优界限。
关于对比学习的有限样本可识别性——......
▶ 我们遵循 [Hyvarinen et al., 2019] 中的设置。 ▶ si 是高斯变量和拉普拉斯变量的乘积。 ▶ u 对应不同的时间框架。 ▶ g ( · ) 是具有泄漏 ReLU 的神经网络。 ▶ h ( · ) , ϕ i ( · ) 采用具有 R 个神经元的 3 隐藏层网络建模。 ▶ 度量：si 和 hj ( x ) 之间的互信息。