摘要 — 大自然一直启发着人类精神,科学家经常根据对大自然的观察开发新方法。成像和传感技术的最新进展使人们对生物神经过程有了更深入的了解。为了找到增强神经网络学习能力的新策略,我们专注于一种与生物神经网络中的学习任务和神经稳定性密切相关的现象,即稳态可塑性。在描述稳态可塑性的理论中,突触缩放被发现是最成熟和最适用的。我们系统地讨论了关于突触缩放理论的先前研究及其如何应用于人工神经网络。因此,我们利用信息论来分析评估突触缩放如何影响互信息。基于这些分析结果,我们提出了两种在简单和复杂、前馈和循环神经网络的训练过程中应用突触缩放的方式。我们在标准基准上将我们的方法与最先进的正则化技术进行了比较。我们发现,在广泛的网络前馈和循环拓扑和数据集上的实验中,与之前的正则化方法相比,所提出的方法在回归和分类任务中产生的误差最低。
摘要 — 当解码器需要重建参数序列时,考虑通过随机参数量子信道进行通信。我们研究了编码器处可用的严格因果、因果或非因果信道边信息 (CSI) 的场景,以及 CSI 不可用的情况。该模型可以看作是一种量子计量学,也是解码器处具有状态估计的经典速率和状态信道的量子对应物。推导出容量失真区域的正则化公式。在测量信道的特殊情况下,推导出严格因果和因果设置的单字母特征。此外,在更一般的纠缠破坏信道情况下,当 CSI 不可用时,推导出单字母特征。因此,我们获得了具有 CSI 的随机参数量子信道容量的正则化公式,推广了 Boche 等人在 2016 年关于经典量子信道的先前结果。最后,我们引入了玻色子脏纸编码,证明最佳系数不一定是经典设置中的最小均方误差估计的系数。
量子神经网络 (QNN) 使用具有数据相关输入的参数化量子电路,并通过评估期望值来生成输出。计算这些期望值需要重复进行电路评估,因此即使在无误差的量子计算机上也会引入基本的有限采样噪声。我们通过引入方差正则化来减少这种噪声,这是一种在量子模型训练期间减少期望值方差的技术。如果 QNN 构建正确,则此技术不需要额外的电路评估。我们的实证结果表明,方差的降低加快了训练速度,降低了输出噪声,并减少了梯度电路的必要评估次数。该正则化方法以多个函数的回归和水的势能表面为基准。我们表明,在我们的示例中,它平均将方差降低了一个数量级,并导致 QNN 的噪声水平显着降低。我们最后在真实的量子设备上演示了 QNN 训练,并评估了错误缓解的影响。这里,优化是可行的,仅仅是由于方差的减少导致梯度评估中所需的拍摄次数减少。
摘要 — 我们提出了将 1 阶 Wasserstein 距离推广到 n 个量子态的建议。该建议恢复了正则基向量的汉明距离,更一般地恢复了正则基中对角量子态的经典 Wasserstein 距离。所提出的距离对于作用于一个量子态的量子位元的排列和幺正运算是不变的,并且对于张量积是可加的。我们的主要结果是冯·诺依曼熵关于所提距离的连续性界限,这显著加强了关于迹距离的最佳连续性界限。我们还提出了将 Lipschitz 常数推广到量子可观测量的建议。量子 Lipschitz 常数的概念使我们能够使用半定程序计算所提出的距离。我们证明了 Marton 传输不等式的量子版本和量子 Lipschitz 可观测量谱的量子高斯浓度不等式。此外,我们推导出浅量子电路的收缩系数和单量子信道的张量积相对于所提出的距离的界限。我们讨论了量子机器学习、量子香农理论和量子多体系统中的其他可能应用。
使用方差正规化K. Evtimova,Y。Lecun用多层解码器进行稀疏编码。TMLR 2022。ista是一种用于提取数据稀疏表示形式的经典算法。我们将ISTA扩展到与深度神经网络一起使用,应用方差正则化以避免崩溃。用我们的方法提取的稀疏图像表示形式提高了一声学习性能。
抽象理解宇宙中暗物质的本质是现代宇宙学的重要目标。探测此分布的关键方法是通过弱重力透镜质量映射 - 这是一个具有挑战性的逆问题,其中一个人从观察到的剪切测量值中吸收收敛场。即将进行的IV阶段调查,例如Vera C. Rubin天文台和欧几里得卫星进行的将提供更大的数据和精确度,以进行镜头分析,因此需要在计算上具有高效的质量映射方法,并且还为集成到下斯流的综合分析提供了不认真的效率。 在这项工作中,我们介绍了MMGAN,这是一种基于正则条件生成对抗网络(GAN)框架的新型质量映射方法,该框架生成了给定剪切数据的收敛场的近似后验样品。 我们采用Wasserstein Gans来提高训练稳定性并应用正则化技术来克服模式崩溃,否则对于有条件的gan而言,否则尤其是严重的问题。 我们将模型应用于模拟宇宙风格的数据集,然后将其应用于真正的宇宙调查数据。 我们的方法极大地超过了Kaiser-Squires技术,并实现了与替代性深度学习方法相似的重建保真度。 值得注意的是,虽然从学习的后验产生样品的替代方法很慢(例如, 每个后部样品需要约10分钟分钟),MMGAN可以在不到一秒钟的时间内产生高质量的收敛样品。将提供更大的数据和精确度,以进行镜头分析,因此需要在计算上具有高效的质量映射方法,并且还为集成到下斯流的综合分析提供了不认真的效率。在这项工作中,我们介绍了MMGAN,这是一种基于正则条件生成对抗网络(GAN)框架的新型质量映射方法,该框架生成了给定剪切数据的收敛场的近似后验样品。我们采用Wasserstein Gans来提高训练稳定性并应用正则化技术来克服模式崩溃,否则对于有条件的gan而言,否则尤其是严重的问题。我们将模型应用于模拟宇宙风格的数据集,然后将其应用于真正的宇宙调查数据。我们的方法极大地超过了Kaiser-Squires技术,并实现了与替代性深度学习方法相似的重建保真度。值得注意的是,虽然从学习的后验产生样品的替代方法很慢(例如,每个后部样品需要约10分钟分钟),MMGAN可以在不到一秒钟的时间内产生高质量的收敛样品。
Tsarapatsanis、Nikolaos Aletras、Ion Androutsopoulos 和 Prodromos Malakasiotis。2021 年。“通过正则化进行段落级理论提取:欧洲人权法院案件案例研究。”《计算语言学协会北美分会 2021 年会议论文集:人类语言技术》,226-41。在线:计算语言学协会。Chalkidis、Ilias、Abhik Jana、Dirk Hartung、Michael
摘要 — 由于维数较高,噪声多通道脑电图时间序列数据的协方差矩阵难以估计。在基于事件相关电位和线性判别分析 (LDA) 进行分类的脑机接口 (BCI) 中,解决这个问题的最新方法是通过收缩正则化。我们提出了一个新想法来解决这个问题,即对 LDA 的协方差矩阵实施块 Toeplitz 结构,这实现了每个通道在短时间窗口中信号平稳的假设。在 13 种事件相关电位 BCI 协议下收集的 213 名受试者的数据上,与收缩正则化的 LDA(最多 6 个 AUC 点)和黎曼分类方法(最多 2 个 AUC 点)相比,由此产生的“ToeplitzLDA”显著提高了二元分类性能。这意味着应用程序级别的性能得到了极大改善,例如在无监督视觉拼写器应用程序中记录的数据,其中 25 个受试者的拼写错误平均可以减少 81%。除了 LDA 训练的内存和时间复杂度较低之外,ToeplitzLDA 被证明即使在 20 倍的时间维度扩大后也几乎保持不变,这减少了对特征提取专家知识的需求。
现有的图像到图像(I2i)翻译方法通过将斑块的对比度学习置于生成性对抗网络中,从而实现最先进的性能。然而,斑块的对比度学习仅关注局部内容的相似性,但忽略了全球结构的结合,这会影响生成的图像的质量。在本文中,我们提出了一个基于双重对比的正则化和光谱归一化的新的未配对I2I翻译框架,即SN-DCR。为了维持全局结构和纹理的一致性,我们分别使用不同的深度特征空间设计了双重对比正则化。为了改善生成图像的全局结构信息,我们制定了语义上对比的损失,以使生成的图像的全局语义结构类似于语义特征空间中目标域中的真实图像。我们使用革兰氏矩阵从图像中提取纹理样式。同样,我们设计样式的对比损失,以改善生成图像的全局纹理信息。此外,为了增强模型的稳定性,我们在发电机的设计中采用了光谱归一化卷积网络。我们进行了全面的实验来评估SN-DCR的有效性,结果证明了我们的方法在多个任务中实现了SOTA。