摘要:在本演讲中,我将重点介绍用于分析和分解张量数据的快速方法。在演讲的第一部分中,我将介绍一种我们为对称张量分解提出的方法。我们为算法及其相关的非凸优化问题提供了几种保证。此外,我们从经验上观察到该方法比现有的分解算法要快大约一个数量级,并且对噪声也很强。在演讲的第二部分中,我将介绍时刻的隐式方法。多元随机变量的高阶力矩遭受维数的诅咒:条目的数量按矩的顺序为指数尺度。我们引入了一种隐式方法,该方法允许估算参数而不明确形成矩,以免避免维度的诅咒。我们使用这种方法来估计高斯混合模型的参数,获得了一种具有与最先进方法相似的计算和存储成本的方法,例如预期最大化,并为多变量变量的瞬间方法开辟了大门。最后,我将提及几种相关的方法和应用程序,包括有关使用谈话第一部分中引入的方法进行分解时刻张力张量的持续工作。
多模态学习研究的核心在于有效利用多模态之间的融合表示。然而,现有的双向跨模态单向注意力只能利用从一个源到一个目标模态的模态间相互作用。在模态数量有限且交互方向固定的情况下,这确实无法释放多模态融合的全部表达能力。在本文中,提出了多路多模态变换器(MMT),通过单个块而不是多个堆叠的跨模态块同时探索每个模态的多路多模态互相关。MMT 的核心思想是多路多模态注意力,其中利用多种模态来计算多路注意张量。这自然有利于我们开发全面的多对多多模态交互路径。具体而言,多路张量由多个相互连接的模态感知核心张量组成,这些核心张量由模态内交互组成。此外,张量收缩操作用于研究不同核心张量之间的模态间依赖关系。本质上,我们基于张量的多路结构允许将 MMT 轻松扩展到与任意数量的模态相关的情况。以 MMT 为基础,进一步建立分层网络,以递归方式将低级多路多模态交互传输到高级交互。实验表明,MMT 可以实现最先进或相当的性能。
摘要 — 从梯度下降中得出的在线突触可塑性规则在广泛的实际任务中实现了高精度。然而,它们的软件实现通常需要繁琐的手工梯度或使用梯度反向传播,这牺牲了规则的在线能力。在这项工作中,我们提出了一种自定义自动微分 (AD) 管道,用于稀疏和在线实现基于梯度的突触可塑性规则,该管道可推广到任意神经元模型。我们的工作结合了前向 AD 的反向传播类型方法的编程简易性,同时节省了内存。为了实现这一点,我们利用在线突触可塑性的优势计算和内存扩展,提供一种固有稀疏的 AD 实现,其中如果张量是对角的,则昂贵的张量收缩被简单的元素乘法取代。基于梯度的突触可塑性规则(如资格传播 (e-prop))恰好具有这种特性,因此从这一特性中获益匪浅。我们在合成任务中展示了梯度反向传播与梯度对齐,其中 e-prop 梯度是精确的,以及音频语音分类基准。我们展示了内存利用率如何随网络规模而变化,而不依赖于序列长度,这与前向 AD 方法的预期一致。索引术语 — 算法、神经形态计算、资格传播、自动微分
摘要 - 这项研究提出了一种实现光学透明梁向导天线的方法。使用液晶(LC)技术的RF和光学特征与透明的金属网格结合使用,以实现第一个光学透明的可重新配置反射式(RA)。由于偏置和射频(RF)信号的电场高度不均匀,因此LC介电常数既是各向异性和不均匀的,因此在天线设计之前,需要获得准确的LC分子的行为以进行准确的建模。分析了由金属网格和LC组成的单元细胞,并获得了LC局分布。导演数据被转换为整个LC体积中的介电常数张量,并在电磁模拟软件中离散LC以执行全波周期性边界模拟以建模各向异性和不均匀性。离散的模型由具有GT7 LC材料的新介电常数范围的单个介电块近似。根据光学和RF性能制造并测量10×10 RA。当电压从0 V增加到40 V时,单位电池的测得的相移为260°。在E平面中,测得的梁扫描从-10˚到50°,在H -Plane中,H -Plane的最大最大增益为14.35 dbi。还测量了原型光学性能。讨论了当前RF LC混合物的好处和缺点。它表明,使用针对RF和光学传输优化的适当LC混合物,基于LC的光学透明天线是各种新应用的可行解决方案。
量子计算是一种计算模型,其中数据存储在受量子物理定律控制的粒子状态下。该理论已经足够确定,可以设计其应用程序从公共和私人参与者那里收集利益的量子算法[29,31,17]。量子对象的基本属性之一是具有双重解释。在第一个中,量子对象被理解为粒子:空间中的确定,局部点,与其他粒子不同。光可以被视为一组光子。在另一种解释中,该对象被理解为波浪:它在空间中“扩散”,可能具有干扰。这是将光解释为电磁波的解释。计算的标准模型使用量子位(Qubits)来存储信息和量子电路[30],以描述带有量子门的量子操作,这是布尔门的量子版本。尽管用于量子计算的普遍模型,但仅以直观的方式给出了量子电路的操作语义。量子电路被理解为某种顺序的低级装配语言,其中量子门是不透明的黑盒。特别是,量子电路本身并不具有任何形式的操作语义,从而引起抽象的推理,方程理论或有充分的重写系统。从表示的角度来看,量子电路是线性操作员的张量和应用的字面描述。这些可以用历史矩阵解释[30]或更近期的总计语义[1,6]来描述这些 - 这可以是
深度学习已成为解决众多现代问题的常见解决方案,占据了当今技术和社会关注的核心。其权力的配方是基于梯度反向传播的前所未有的大维度和学习过程的结合效应[Lecun等,1998]。,由于神经元模型的简单性,该模型被分解为加权线性总和,然后是非线性激活函数,权重梯度仅由它们各自的输入而不涉及交叉参数依赖性确定。因此,就计算过程而言,梯度反向传播是由梯度链规则自动化的,仅需要对远期输入数据进行缓冲。但是,深度学习在计算上是密集的。图1显示了其典型的操作,其中向前传球在推理和训练中都使用,而后传播仅用于训练。推断,必须存储整个模型参数,并且主要计算是张量点产品。在训练中,除推理外,向前传球还需要缓冲每一层的所有输入张量。它们用于衍生计算,基于梯度的优化器和梯度反向传播所需的张量点产品。也需要基于梯度的学习原理,模型参数和所有信号都是连续数字,通常以32位浮点格式表示。它会导致大量的内存足迹。图2显示了我们的一个示例,以说明
高压下严重的塑性变形(SPD),主要是通过高压扭转,用于生产纳米结构材料以及稳定或亚稳态的高压相。但是,压力释放后对验尸进行了研究。在这里,我们回顾了耦合SPD,应变诱导的相变(PTS)的最新原位实验和理论研究,以及在钻石砧细胞压缩下获得的高压或旋转钻石弧形细胞中压缩和扭转的高压的微观结构演化。在同步辐射中利用X射线差异可以确定每个相的相体积分数,压力,脱位密度和结晶石大小的径向分布,并确定其进化和相互作用的主要定律。与样品行为的有限元仿真结合,可以测定应力和塑性应变张量的所有组件的领域,以及高压阶段的体积分数,并可以更好地理解控制发生过程的方法。原子,纳米级和无尺度的相位场模拟允许阐明塑性应变诱导的相变压力的急剧降低(通过一到两个数量级)的急剧降低,新相和菌株控制的PT Kinetics与静态载荷相比。将原位实验与多尺度理论结合起来可能导致制定用于控制应变诱导的PT和微观结构演化的方法,并设计用于缺陷诱导的所需高压相,纳米结构和纳米复合物的缺陷诱导的合成的经济合成路径。[doi:10.2320 / mastrans.mt-mf2022055] < / div>
摘要 - 目标:结构性大脑图通常仅限于定义节点,因为灰质区域是地图集的,边缘反映了淋巴结对之间的轴突投影的密度。在这里,我们将脑面膜内整个体素集成为高分辨率,主题特定图的节点。方法:我们使用扩散张量和从扩散MRI数据得出的扩散张量和方向分布函数来定义局部素至素连接的强度。我们在人类连接项目的数据上研究图形的拉普拉斯光谱特性。然后,我们通过Procrustes验证方案评估Laplacian本征模的受试者间变异性的程度。最后,我们证明了通过图形信号处理的基本解剖结构来塑造功能性MRI数据的程度。结果:图形拉普拉斯特征模式表现出高度分辨的空间专题,反映了与主要白质途径相对应的分布模式。我们表明,这种高分辨率图的特征空间的固有维度仅仅是图尺寸的一部分。通过在低频图Laplacian eigenmodes上投射任务和静止状态数据,我们表明大脑活动可以通过一小部分低频组件来很好地近似。结论:所提出的图形在研究大脑时开放了新的途径,无论是通过图或光谱图理论探索其组织特性,或者通过将它们视为在单个层面上观察到大脑功能的支架。
摘要 - 预测阿尔茨海默氏病(AD)进展的机器学习(ML)技术可以极大地帮助研究人员和临床医生建立有效的AD预防和治疗策略。数据形式的单调性和医疗数据稀缺性是当前限制ML方法性能的主要原因。在这项研究中,我们提出了一种新型的基于相似性的定量方法,该方法同时考虑了脑生物标志物之间结构变化的幅度和方向关系,并将量化数据编码为第三阶张量,以解决数据形式单调性问题,然后将量张量的多任务学习模型相结合以预测AD AD Progssive。在此模型中,对每个患者的预测都被视为一项任务,每个任务共享通过张量分解获得的一组潜在因素,任务之间的知识共享可以改善模型的概括并解决医疗数据稀缺问题。该模型可用于有效预测AD积分磁共振成像(MRI)数据和AD患者在不同阶段的认知评分的进展。为了评估所提出方法的有效性,我们利用阿尔茨海默氏病神经影像学计划(ADNI)进行了广泛的实验。结果表明,所提出的模型比各种认知评分上的单项任务和最先进的多任务回归方法更准确,一致地预测AD的进展。所提出的方法可以识别患者的大脑结构变异,并将其应用于可靠地预测和诊断AD进展。
量子信息中的一个基本原理是矩 EU [Tr UρU † O t ] 的计算。这些矩描述了将状态 ρ 发送到从某个分布中采样的随机幺正 U 并测量可观测量 O 所获得的期望值分布。虽然这些矩的精确计算通常很困难,但如果 U 由局部随机门组成,则可以通过对马尔可夫链式过程进行蒙特卡洛模拟来估计 EU [Tr UρU † O t ]。然而,这种方法可能需要大量样本,或者存在符号问题。在这项工作中,我们建议通过张量网络来估计矩,其中局部门矩算子被映射到作用于其局部交换基的小维张量。通过利用表示理论工具,我们研究了局部张量维数,并为深电路产生的矩阵积状态的键维数提供了界限。我们将我们的技术与蒙特卡洛模拟进行了比较,结果表明我们的技术可以显著优于它们。然后,我们展示了当 U 是一个作用于数千个量子比特并具有数千个门的量子神经网络时,张量网络如何精确计算二阶矩。最后,我们用数字方式研究了具有正交随机门的电路的反集中现象,由于符号问题,这项任务无法通过蒙特卡洛进行研究。