摘要。我们提出了扩散汤,这是一种用于文本到图像生成的隔室化方法,该方法平均训练了在碎片数据上训练的扩散模型的权重。通过施工,我们的方法可以培训 - 免费的持续学习和学习,而没有其他内存或inctionce成本,因为可以通过重新体验来添加或删除与数据碎片相对应的模型。我们表明,从重量空间中的一个散布汤样品近似于组成数据集的分离的几何平均值,该数据集提供了抗MONTORIGATION GUARESES,并启用了零拍的样式混合。从经验上讲,扩散汤优于在所有数据碎片的结合下训练的帕拉贡模型,并在域分片数据上取得了30%的图像奖励(.34→.44),而IR的IR(.37→.59)在摄取数据上提高了59%。在这两种情况下,汤也以TIFA得分占上风(分别为85.5→86.5和85.6→86.8)。我们证明了鲁棒性的学习 - 在IR(.45→.44)中,任何单个域shorn仅降低了1%的性能 - 并验证我们对抗Memorization的实际数据的理论见解。最后,我们展示了扩散汤的能力,可以将不同碎片上固定的模型的独特样式融合在一起,从而导致零发的混合风格产生。
摘要:在认知神经科学研究中,事件相关电位 (ERP) 的计算模型可以提供一种为观察到的波形开发解释性假设的方法。然而,接受过认知神经科学培训的研究人员在实施这些模型时可能会面临技术挑战。本文提供了有关开发 ERP 波形的循环神经网络 (RNN) 模型的教程,以促进计算模型在 ERP 研究中更广泛地使用。为了举例说明 RNN 模型的使用,检查了在通道 Pz 处测量的目标和非目标视觉事件引起的 P3 成分。实验事件的输入表示和相应的 ERP 标签用于在监督学习范式中优化 RNN。将一个输入表示与多个 ERP 波形标签链接起来,然后优化 RNN 以最小化均方误差损失,会导致 RNN 输出近似于总平均 ERP 波形。然后可以将 RNN 的行为评估为 ERP 生成背后的计算原理的模型。除了拟合这样的模型之外,本教程还将演示如何根据 RNN 的隐藏单元的时间响应对其进行分类,并使用主成分分析对其进行表征。统计假设检验也可以应用于这些数据。本文重点介绍建模方法以及随后使用公开数据和共享代码以操作指南的形式对模型输出进行分析。虽然对 P3 响应生成的具体解释的关注相对较少,但结果引发了一些有趣的讨论点。
摘要:我们提出了一种受生物大脑中调节神经递质机制启发的迁移学习方法,并探索神经形态硬件的应用。在该方法中,人工神经网络的预训练权重保持不变,并通过补充偏差输入操纵每个神经元的触发灵敏度来学习新的类似任务。我们将其称为神经调节调谐 (NT)。我们通过经验证明,神经调节调谐在前馈深度学习和脉冲神经网络架构中的图像识别领域产生的结果与传统微调 (TFT) 方法相当。在我们的测试中,与传统微调方法相比,NT 将要训练的参数数量减少了四个数量级。我们进一步证明,神经调节调谐可以在模拟硬件中实现为具有可变电源电压的电流源。我们的模拟神经元设计实现了泄漏积分和触发模型,其中三个双向二进制缩放电流源组成了突触。通过与每个突触相关的可调功率域应用近似于调节神经递质机制的信号。我们使用高精度仿真工具验证了电路设计的可行性,并提出了一种使用集成模拟电路高效实现神经调节的方法,该电路的功耗比数字硬件(GPU/CPU)低得多。
摘要:随着脑电图(EEG)测量人脑的实时电子学的能力(EEG),所有人都知道,信号处理技术,尤其是深度学习,可以为学习提供新颖的解决方案,也可以优化从EEG信号中优化鲁棒表示。考虑到有限的数据收集和受试者测试期间的浓度不足,必须使用脑库界面(BCI)系统的潜在最终用户获得足够的训练数据和有用的功能。在本文中,我们将一个条件变分的自动编码器网络(CVAE)与生成的对抗网络(GAN)结合在一起,用于从EEG脑信号中学习潜在表示。通过更新馈送到产生的生成模型中的细胞调整参数,我们可以在特定类别下合成脑电图信号。我们采用了一个编码器网络来获得脑电图信号的分布式样本,并应用了一种对抗性学习机制来连续优化发生器,歧视器和分类器的参数。采用CVAE以更大的近似于实际样本类的调整。最后,我们证明了我们的方法具有统计和功能匹配的优势,以使训练过程更快,更稳定,并通过数据增强来解决深度学习应用程序中小规模数据集的问题。我们提出的CVAE-GAN方法生产的增强培训数据集显着增强了MI-EEG识别的性能。
摘要 - 绘制的Sparsifation是大量算法的基础,范围从剪切问题的近似算法到图形Laplacian中线性系统的求解器。以最强的形式“光谱尖峰”将边缘的数量减少到节点数量的接近线性,同时近似保留了图形的切割和光谱结构。Benczúr和Karger(Stoc'96)的突破性工作以及Spielman和Teng(Stoc'04)表明,在原始图的边缘数量中,Sparsifitation可以在接近线性的时间内最佳地完成Sparsifation。在这项工作中,我们证明了用于光谱尖峰及其许多应用的多项式量子加速。特别是,我们给出了一种量子算法,在给定带有n个节点和m边缘的加权图中,在sublinear时间e O(√mn/ϵ)中输出了对spectral sparsifier的经典描述。我们证明这对小数因素很紧张。The algorithm builds on a string of existing results, most notably sparsification algorithms by Spielman and Srivastava (STOC'08) and Koutis and Xu (TOPC'16), a spanner construction by Thorup and Zwick (STOC'01), a single-source shortest paths quantum algorithm by Dürr et al.(ICALP'04)和Christiani,Pagh和Thorup(Stoc'15)的有效的K-K-wise独立哈希结构。我们的算法意味着用于求解拉普拉斯系统的量子加速,并近似于一系列切割问题,例如切割和最稀少的切割。索引项 - Quantum Computing;量子算法;图理论
量子算法能够利用多项式数量的量子比特探索指数级的多种状态,因而在各类工业和科学应用中前景广阔。量子游走是研究最为深入的量子算法之一 [1]。与经典随机游走一样,其量子变体也被广泛用于增强各种量子计算和模拟 [2,3]。虽然量子游走与经典随机游走有着本质区别,但量子算法接近经典算法还是有一定的限度 [4]。经典随机游走的一个有用特性是它可以用马尔可夫链蒙特卡洛 (MCMC) 进行有效模拟,因为后续运动仅取决于当前位置,而不取决于之前的历史。这种 MC 性质是一些模拟多体物理系统的算法的核心,其中生成过程近似于局部的。对于同样具有重要量子特性的物理系统,MCMC 的速度是以固有量子模拟的准确性为代价的。高能物理中的部分子簇射就是这样一个物理系统 [ 5 ],其中夸克或胶子辐射出几乎共线的夸克和胶子簇射。真正的量子效应可以近似为 MCMC 的修正 [ 6 ],但无法在经典 MCMC 方法中直接有效实现。考虑以下量子树:每一步,自旋为 1/2 的粒子可以向左移动一个单位或向右移动一个单位。经过 N 步,该系统形成一个二叉树,其中 2 N
重型离子碰撞计划的目标是从少数到猎人GEV范围内的质量中心能量,是研究产生的致密重型培养基的性质,尤其是其状态方程(EOS)和运输COE FFI水平。流体动态方法对此目标具有重要作用,因为它允许相对轻松地结合状态的不同状态方程。流体动力学方法在高能量触发核核碰撞的应用中非常成功,√SNN= 200 GEV及以上。在那里,通常将动力学分开为初始状态,在该状态下,在其中进行了初始硬散射,并据称会导致培养基的各向同性化或e ff效率的流体化,以及随后的流体阶段,该阶段由流体动力学方程控制。但是,当对较低能量的重离子碰撞进行建模时,就会面对挑战。传入核的Lorentz收缩不强,并且两个核完全彼此之间以及所有主要的NN散射发生的最多需要几个FM / C。密集的培养基已经可以在发生第一个核子核子散射的区域形成,而最后的核子仍在接近其第一个相互作用的点。多流体动力学是一种优雅的现象学方法,可以解释中间能量核核核核的合并时空图片。在多流体方法中,一个近似于传入的核作为冷和富含baryon的两个斑点
最近,Renes 提出了一种称为量子消息信念传播 (BPQM) 的量子算法,用于解码使用具有树形 Tanner 图的二进制线性码编码的经典数据,该数据通过纯状态 CQ 信道 [ 1 ](即具有经典输入和纯状态量子输出的信道)传输。该算法为基于经典信念传播算法的解码提供了真正的量子对应物,当与 LDPC 或 Turbo 码结合使用时,该算法在经典编码理论中取得了广泛成功。最近,Rengaswamy 等人 [ 2 ] 观察到 BPQM 在小示例代码上实现了最佳解码器,因为它实现了区分具有最高可实现概率的输入码字集的量子输出状态的最佳测量。在这里,我们通过以下贡献显著扩展了对 BPQM 算法的理解、形式化和适用性。首先,我们通过分析证明 BPQM 可以对任何具有树形 Tanner 图的二进制线性码实现最佳解码。我们还首次对 BPQM 算法进行了完整、无歧义的正式描述。在此过程中,我们发现了原始算法和后续工作中忽略的一个关键缺陷,这意味着量子电路实现在代码维度上将呈指数级增长。尽管 BPQM 传递量子消息,但算法所需的其他信息是全局处理的。我们通过制定一个真正的消息传递算法来解决这个问题,该算法近似于 BPQM,量子电路复杂度为 O p poly n, polylog 1
深度学习已重新定义了人工神经网络的兴起,这是受到大脑神经元网络的启发。多年来,AI和神经科学之间的这些相互作用为这两个领域带来了巨大的好处,从而使神经网络可以在大量应用中使用。神经网络使用反向分化的有效实现,称为反向传播(BP)。然而,这种算法通常因其生物学上的不可使用性而受到批评(例如,缺乏众议员的本地更新规则)。因此,越来越多地研究了依靠预测性编码(PC)的生物学上合理的学习方法,即描述大脑中信息处理的框架。最近的著作证明,这些方法可以将BP近似于多层感知器(MLP)的一定余量,并在任何其他复杂模型上均非渐近,并且PC的变量零差异推理学习(Z-IL)能够准确地在MLP上实现BP。然而,最近的文字还表明,尚无生物学上合理的方法,可以准确地复制BP在Complex模型上的重量更新。为了填补这一空白,在本文中,我们通过在计算图上直接定义它来概括(PC和)Z-IL,并表明它可以执行精确的反向分化。什么结果是第一个PC(并且在生物学上是合理的)算法,它等同于BP在任何神经网络上更新参数,从而在神经科学和深度学习的构图研究之间提供了桥梁。此外,以上结果尤其是立即提供了BP的新型局部和平行实现。
拖拉图是脑白质的虚拟表示。它由数百万的虚拟纤维组成,编码为3D polyline,近似于白质轴突途径。迄今为止,拖拉图是最准确的白质表示形式,因此用于诸如神经塑性,脑部疾病或脑网络的术前计划和研究。然而,众所周知的问题是,大部分的拖拉机在解剖学上并不合理,并且可以被视为跟踪程序的伪像。使用验证者,我们使用一种新颖的完全监督的学习方法解决了过滤术的问题。与基于信号重建和 /或大脑拓扑正则化的其他方法不同,我们使用现有的白质解剖学知识来指导我们的方法。使用根据解剖学原理注释的拖拉图,我们训练我们的模型验证者,以将纤维分类为解剖上合理或不合理的纤维。所提出的验证模型是一种原始的几何深度学习方法,可以处理可变尺寸纤维,同时又不变到纤维方向。我们的模型将每个文件视为点的图表,并且通过通过提出的序列边缘卷积之间的边缘学习特征,它可以捕获基本的解剖学特性。在一组广泛的实验中,输出过滤结果高度准确,稳健,并且快速;使用12GB的GPU,对1m纤维的拖拉图进行了填充,需要少于一分钟。可在https://github.com/fbk-nilab/verifyber上获得验证实现和训练有素的模型。