继 Transformer 架构在自然语言领域取得成功后,类似 Transformer 的架构最近被广泛应用于符号音乐领域。然而,符号音乐和文本是两种不同的模态。符号音乐包含多种属性,既有绝对属性(例如音高),也有相对属性(例如音长)。这些相对属性塑造了人类对音乐主题的感知。然而,这些重要的相对属性在现有的符号音乐建模方法中大多被忽略,主要原因是缺乏一个具有音乐意义的嵌入空间,无法有效地表示符号音乐标记的绝对嵌入和相对嵌入。在本文中,我们提出了基于偏差调整正弦编码的符号音乐基本音乐嵌入 (FME),其中可以嵌入绝对属性和相对属性,并且明确保留基本音乐属性(例如平移不变性)。利用所提出的 FME,我们进一步提出了一种基于相对索引、音高和起始嵌入(RIPO 注意)的新型注意机制,以便充分利用音乐领域知识进行符号音乐建模。实验结果表明,我们提出的模型:利用 FME 和 RIPO 注意的 RIPO 变压器在旋律完成任务中优于最先进的变压器(即音乐变压器、线性变压器)。此外,在下游音乐生成任务中使用 RIPO 变压器,我们注意到臭名昭著的退化现象不再存在,并且 RIPO 变压器生成的音乐在主观和客观评价中都优于最先进的变压器模型生成的音乐。所提出方法的代码可以在线获取:github.com/guozixunnicolas/FundamentalMusicEmbedding
Aditya Mehra独立研究人员摘要:在这项研究中,作者研究了整合符号和深度学习方法的实施,以开发混合AI系统以改善复杂的决策。常规AI方法区分了基于一阶逻辑的符号推理,基于符号逻辑的系统和基于数据的系统的神经网络。每个都有其优势和局限性。也值得注意的是,符号AI很容易解释,并且可以有效地处理结构化知识。同时,深度学习擅长处理大量非结构化数据和识别模式。因此,该研究的重点是开发两种方法的合并模型,其合并将提供更大的优势,并在与决策相关的任务中提供更好,更有效的解决方案。显然,研究对AI的贡献是显而易见的。首先,它试图将符号推理与深度学习与一个弥补另一个弱点的优势联系起来,包括在深度学习中缺乏可解释性和符号系统中极端形式主义。提出的方法涉及通过新的建筑方法创建和应用符号/语义和深度学习的双重AI架构。符号推理组件是基于规则的系统。我们将符号推理组件作为基于规则的系统实现。我们将深度学习组件作为神经网络创建。这些组件可以在一个整体系统中清楚地相互交互。几个重要的发现表明,与基于符号思维或深度学习的决策模型相比,用于决策的混合AI模型可提供更好的决策精度。集成有助于改善结构化和非结构化数据的处理,从而提高系统结果的可靠性。此外,还有更好的解释性;符号推理部分可以解释为什么做出这样的决定,并且对新的和复杂的问题具有增强性。这项研究的后果突出了在应用程序和财务等特定领域开发的关键领域,在这些领域中,做出正确且易于解释的决策至关重要。AI的主要问题是考虑准确性的解释;混合模型提出了随后开发AI系统的可能方向。因此,本研究为进一步研究其他混合结构提供了方向,增强了整合方法,并将提出模型的使用扩展到其他决策问题。
符号AI构建了智力行为的计算模型,重点是世界的象征性表示,然后使用逻辑和搜索来解决问题。这些AI模型由声明知识组成,这些事实描述了现实世界和程序知识,这些事实指定了声明知识的不同元素如何相关。这些符号模型中的推理是通过建立由通过程序知识(节点之间的连接)连接的声明知识(节点)形成的知识图来构建的。这些知识图被视为逻辑规则,或者更普遍地为基于规则的系统(RBS)。使用符号AI模型时出现的问题之一是,现实世界中的知识很少完全准确。在本文中,我们假设可能以两种不同的方式存在不准确性:(1)当它与声明性知识相关联时,即对给定事实的描述有多准确。(2)当它与程序知识相关联时,即与证据有关的不确定性
预期团队成员行动的能力可以实现共同目标的共同行动。任务知识和心理模拟允许预测其他代理的行动,并推断出其潜在的心理表征。在人类 - AI团队中,为AI代理提供了预期的机制,可以促进合作和成功执行联合行动。本文提出了一个计算认知模型,证明了对操作员的心理模型的心理模拟和对其行为的预期。这项工作提出了两个连续的步骤:(1)应用层次群集算法来识别飞行员之间的行为模式。这些行为群集用于从经验数据(n = 13个飞行员)中得出共同点。(2)ACT -R(对思想的自适应控制 - 理性)认知模型被实施,以在精神上模拟飞行员的行动决策和时机的不同可能结果。ACT-R的模型跟踪允许跟踪操作员的个人操作。使用ACT-R的符号表示来实现两个模型:一个模拟规范行为,另一个模拟通过模拟个体差异和使用下符号学习来实现。通过对两个模型的比较来分析模型性能。结果表明,与规范性
2特征方程式| λi -d f(x,µ)| = 0,其中d f(x,µ)是(x,µ)系统的雅各布矩阵,具有一对假想的根(λ(x,µ),λ(x,x,µ)),没有其他根部的根。99k(x,µ)Hopf Equilibria
机器学习方法在生物识别和个人信息处理(例如法医、电子医疗、招聘和电子学习)领域的重要性日益增加。在这些领域,基于机器学习方法构建的系统的白盒(人类可读)解释可能变得至关重要。归纳逻辑编程 (ILP) 是符号 AI 的一个子领域,旨在自动学习有关数据处理的声明性理论。从解释转换中学习 (LFIT) 是一种 ILP 技术,可以学习与给定黑盒系统等同的命题逻辑理论(在特定条件下)。本研究通过检查 LFIT 在特定 AI 应用场景中的可行性,迈出了将准确的声明性解释纳入经典机器学习的通用方法的第一步:基于使用机器学习方法生成的自动工具进行公平招聘,用于对包含软生物特征信息(性别和种族)的简历进行排名。我们展示了 LFIT 对这个特定问题的表达能力,并提出了一个可应用于其他领域的方案。
1 健康创新,三星,通信大楼,South St.,斯坦斯 TW18 4QE,英国;s.jilali@samsung.com(SJ);rohit.ail@samsung.com(RA)2 三星研究,56 Seongchon-gil,首尔 06765,韩国;jaehun20.lee@samsung.com(JL);bh1020.kim@samsung.com(BK)3 知识媒体研究所,开放大学,米尔顿凯恩斯 MK7 6AA,英国;alessio.antonini@open.ac.uk(AA);enrico.motta@open.ac.uk(EM)4 心理治疗和心身医学系,德累斯顿工业大学医学院,01307 德累斯顿,德国;Julia.Schellong@uniklinikum-dresden.de(JS); Lisa.Stieler@uniklinikum-dresden.de (LS) 5 华威大学工程学院,Library Rd, Coventry CV4 7AL,英国;salman.haleem@warwick.ac.uk (MSH);l.pecchia@warwick.ac.uk (LP) 6 约阿尼纳大学材料科学与工程系,45110 约阿尼纳,希腊;egeorga@cs.uoi.gr 7 生命支持技术(LifeSTech),ETSI Telecomunicaciones,马德里理工大学,Av. Complutense, 30, 28040 Madrid,西班牙;eugenio.gaeta@upm.es (EG); gfico@lst.tfo.upm.es (GF) * 通信地址:c.allocca@samsung.com † 现地址:Communications House, South St., Staines TW18 4QE, UK。‡ 这些作者对本文的贡献相同。
高维计算(HD),也称为向量符号体系结构(VSA),是通过利用随机高维矢量空间的属性来计算分布式表示的框架。科学通信对在这个尤其多学科领域进行汇总和传播研究的承诺对于其进步至关重要。加入这些效果,我们提出了HD/VSA的高性能开源Python库Torchhd。Torchhd试图使HD/VSA更容易访问,并为进一步的研究和应用程序开发提供了有效的基础。易于使用的库建立在Pytorch之上,并具有最先进的HD/VSA功能,清晰的文档和来自著名出版物的实施示例。将公开可用的代码与相应的TorchHD实现进行比较,表明实验可以快速运行100倍。Torchhd可在以下网址提供:https://github.com/hyperdimensional-computing/torchhd。关键字:高维计算,矢量符号体系结构,分布式代表,机器学习,符号AI,Python库
摘要:脑电图 (EEG) 信号包含有关大脑状态的信息,因为它们反映了大脑的功能。然而,手动解释 EEG 信号既繁琐又耗时。因此,需要使用机器学习方法提出自动 EEG 翻译模型。在本研究中,我们提出了一种创新方法,以实现高分类性能和可解释的结果。我们引入了基于通道的变换、通道模式 (ChannelPat)、t 算法和 Lobish(一种符号语言)。通过使用基于通道的变换,EEG 信号使用通道的索引进行编码。所提出的 ChannelPat 特征提取器对两个通道之间的转换进行编码,并用作基于直方图的特征提取器。采用迭代邻域分量分析 (INCA) 特征选择器来选择最具信息量的特征,并将所选特征输入到新的集成 k 最近邻 (tkNN) 分类器中。为了评估所提出的基于通道的 EEG 语言检测模型的分类能力,收集了一个包含阿拉伯语和土耳其语的新 EEG 语言数据集。此外,还引入了 Lobish,以便从所提出的 EEG 语言检测模型中获得可解释的结果。所提出的基于通道的特征工程模型被应用于收集的 EEG 语言数据集,实现了 98.59% 的分类准确率。Lobish 从大脑皮层提取有意义的信息以进行语言检测。
