XiaoMi-AI文件搜索系统
World File Search SystemSymbolic
符号人工智能与联结人工智能
与人工智能社区的许多成员一样，我着迷地关注着符号人工智能和联结人工智能之间正在进行的讨论。符号人工智能认为，在推理和学习中使用知识对于产生智能行为至关重要，而联结人工智能则假定，从数据中学习关联（几乎不需要或完全不需要先验知识）对于理解行为至关重要。最近这两种人工智能范式之间的争论是由本世纪初联结人工智能的进步引发的，这些进步具有重要的应用价值。联结主义在面对大规模数据时所取得的技术成功，使其成为人工智能的主导范式。过去十年，这两种学派之间的对话通过学术文章（例如，LeCun、Bengio 和 Hinton，2015 年）、辩论（人工智能辩论，2017 年；人工智能辩论，2019 年）和社交媒体展开——其中社交媒体有时会引发尖锐的评论。我之所以对这场辩论如此着迷，是因为人工智能的主要问题非常重要：智能本身的性质。然而，我也发现这场辩论有点令人沮丧。原因如下。首先，我发现“符号人工智能”和“联结主义人工智能”这两个词组具有误导性。符号学派致力于知识及其在推理和学习中的应用（仅使用适度的输入数据），而不是符号本身：符号通常只代表知识抽象。同样，联结主义阵营的忠诚实际上是在几乎没有或完全没有先验知识的情况下从数据中学习关联，通常需要大规模数据。从认知科学的角度来看，符号人工智能与理性主义心智学派非常一致，后者强调
使用模板和符号泡利门进行 Clifford 电路优化
Clifferd 群是由 Hadamard 门、cnot 门和 Phase 门生成的酉群的有限子群。该群在量子纠错、随机基准测试协议和纠缠研究中起着重要作用。这里，我们考虑寻找实现给定 Clifferd 群元素的短量子电路的问题。我们的方法旨在最小化假设全到全量子比特连接的纠缠门数。首先，我们考虑基于模板匹配的电路优化，并设计 Clifferd 特定的模板，利用分解 Pauli 门和交换门的能力。其次，我们引入一种符号窥孔优化方法。它的工作原理是将整个电路投影到一小部分量子比特上，然后通过动态规划以最佳方式重新编译投影的子电路。将选定的量子比特子集与剩余量子比特耦合的 cnot 门用符号 Pauli 门表示。通过软件实现这些方法，可以找到距离 6 量子比特最优仅 0.2% 的电路；与 Aaronson–Gottesman 标准形式相比，最多 64 量子比特的电路中的两量子比特门数量平均减少了 64.7% [ 3 ]。
使用神经符号方法预测学生策略
摘要 预测学生的解决问题策略是一个复杂的问题，但它会对自动教学系统产生重大影响，因为它们可以根据学习者的情况调整或个性化系统。虽然对于小型数据集，学习专家可能能够手动分析数据来推断学生的策略，但对于大型数据集，这种方法是不可行的。我们开发了一个机器学习模型来根据学生数据预测策略。虽然基于深度神经网络 (DNN) 的方法（例如 LSTM）可以应用于此任务，但它们对于大型数据集通常具有较长的收敛时间，并且与其他几种基于 DNN 的方法一样，存在数据过度拟合的固有问题。为了解决这些问题，我们开发了一种用于策略预测的神经符号方法，即结合符号 AI（可以编码领域知识）和 DNN 的优势的模型。具体来说，我们使用马尔可夫逻辑对数据中的关系进行编码，并利用这些关系之间的对称性来更有效地训练 LSTM。具体来说，我们使用重要性抽样方法，对训练数据进行抽样，以便对于对称实例的群集/组（策略可能对称的实例），我们仅选择代表性样本来训练模型，而不是使用整个组。此外，由于某些组可能包含比其他组更多样化的策略，我们会根据先前观察到的样本调整重要性权重。通过对 KDD EDM 挑战数据集进行实证评估，我们展示了我们方法的可扩展性。
昆虫启发的随机加权神经网络，具有随机的傅立叶特征，用于神经符号的关系学习
摘要知识表示和推理的计算机科学领域（KRR）旨在像人类一样有效地理解，推理和解释知识。由于该领域的许多逻辑形式主义和推理方法已经表明了高阶学习的能力，例如抽象概念学习，将人工神经网络（ANN）与KRR方法集成到用于学习复杂和实用任务的KRR方法引起了很多关注。例如，神经张量网络（NTN）是神经网络模型，能够将符号表示为矢量空间，在这些模型中可以通过矩阵计算进行推理。当在逻辑张量网络（LTN）中使用时，它们能够将一阶逻辑符号（例如常数，事实和规则）嵌入到实值张量中。KRR和ANN的整合提出了将神经科学中的生物学灵感带入KRR的潜在途径。但是，高阶学习并不是人类大脑的独有性。昆虫，例如果蝇和蜜蜂，可以解决简单的关联学习任务，并学习抽象概念，例如“相同”和“差异”，这被视为高阶认知功能，通常被认为取决于自上而下的新皮层处理。用果蝇的实证研究强烈支持，即在昆虫大脑的嗅觉加工中使用了随机代表性结构。基于这些结果，我们提出了一个随机加权的特征网络（RWFN），该特征网络将随机绘制的未经训练的权重纳入编码器，该编码器使用适应性线性模型作为解码器。单个隐藏层神经网络在RWFN中模仿输入神经元和高阶处理中心之间的随机投影，该神经网络在RWFN中模仿，该神经网络使用kernel近似在输入之间更好地表示输入之间的复杂关系。由于这种特殊表示形式，RWFN可以通过仅训练线性解码器模型有效地学习输入之间的关系程度。我们将RWFN与LTN的性能进行比较，用于语义图像解释（SII）任务，这些任务被用作LTN如何利用一阶逻辑上的推理以超越仅数据驱动方法的性能的代表性示例。我们证明，与LTN相比，RWFN可以在对象分类和检测SII任务中对象之间的关系方面取得更好或类似的性能，同时使用更少的可学习参数（1:62比例）和更快的学习过程（1：2的运行速度比率）。此外，我们表明，由于随机权重不取决于数据，因此有几个解码器可以共享一个随机编码器，从而使RWFN具有独特的空间量表经济体，用于同时分类任务。
神经符号人工智能：一类新兴的人工智能工作负载及其特征
摘要 — 神经符号人工智能是人工智能研究的一个新领域，旨在将传统的基于规则的人工智能方法与现代深度学习技术相结合。神经符号模型已经证明了在图像和视频推理等领域超越最先进的深度学习模型的能力。它们还被证明能够以比传统模型少得多的训练数据获得高精度。由于该领域出现的时间较晚，且已发表的结果相对稀少，这些模型的性能特征尚不清楚。在本文中，我们描述和分析了三种近期神经符号模型的性能特征。我们发现，由于复杂的控制流和低操作强度运算（例如标量乘法和张量加法），符号模型的潜在并行性低于传统神经模型。然而，在它们明显可分离的情况下，计算的神经方面主导着符号部分。我们还发现数据移动会造成潜在的瓶颈，就像在许多 ML 工作负载中一样。索引术语 — 神经符号、机器学习、性能、推理
昆虫启发的随机加权神经网络，具有随机的傅立叶特征，用于神经符号的关系学习
摘要知识表示和推理的计算机科学领域（KRR）旨在像人类一样有效地理解，推理和解释知识。由于该领域的许多逻辑形式主义和推理方法已经表明了高阶学习的能力，例如抽象概念学习，将人工神经网络（ANN）与KRR方法集成到用于学习复杂和实用任务的KRR方法引起了很多关注。例如，神经张量网络（NTN）是神经网络模型，能够将符号表示为矢量空间，在这些模型中可以通过矩阵计算进行推理。当在逻辑张量网络（LTN）中使用时，它们能够将一阶逻辑符号（例如常数，事实和规则）嵌入到实值张量中。KRR和ANN的整合提出了将神经科学中的生物学灵感带入KRR的潜在途径。但是，高阶学习并不是人类大脑的独有性。昆虫，例如果蝇和蜜蜂，可以解决简单的关联学习任务，并学习抽象概念，例如“相同”和“差异”，这被视为高阶认知功能，通常被认为取决于自上而下的新皮层处理。用果蝇的实证研究强烈支持，即在昆虫大脑的嗅觉加工中使用了随机代表性结构。基于这些结果，我们提出了一个随机加权的特征网络（RWFN），该特征网络将随机绘制的未经训练的权重纳入编码器，该编码器使用适应性线性模型作为解码器。单个隐藏层神经网络在RWFN中模仿输入神经元和高阶处理中心之间的随机投影，该神经网络在RWFN中模仿，该神经网络使用kernel近似在输入之间更好地表示输入之间的复杂关系。由于这种特殊表示形式，RWFN可以通过仅训练线性解码器模型有效地学习输入之间的关系程度。我们将RWFN与LTN的性能进行比较，用于语义图像解释（SII）任务，这些任务被用作LTN如何利用一阶逻辑上的推理以超越仅数据驱动方法的性能的代表性示例。我们证明，与LTN相比，RWFN可以在对象分类和检测SII任务中对象之间的关系方面取得更好或类似的性能，同时使用更少的可学习参数（1:62比例）和更快的学习过程（1：2的运行速度比率）。此外，我们表明，由于随机权重不取决于数据，因此有几个解码器可以共享一个随机编码器，从而使RWFN具有独特的空间量表经济体，用于同时分类任务。
A. Newell 和 HA Simon 对符号人工智能的贡献
A. Newell 和 HA Simon 是 20 世纪 50 年代末至 90 年代初新兴人工智能 (AI) 领域最具影响力的两位科学家。本文回顾了他们对该领域，即符号 AI 的重要贡献。他们的贡献主要在于他们寻求在人工智能或推理产品中实现通用智能和（常识）知识，这是他们与许多其他科学家共同开展的项目，但在他们看来，该项目在理论上基于符号系统的特殊概念及其产生的表征能力，特别是在知识方面。本文重点关注 1956 年至 1982 年期间，引用了早期和晚期文献，并试图揭示它们与当今最大的统一 AI 挑战的潜在相关性，即设计完全自主的人工智能代理（又称机器人），这些代理不仅理性且合乎道德，而且具有自我意识。
神经符号人工智能
我们首先应该尝试定义主题。一般来说，我们将神经符号人工智能（简称 NeSy AI）理解为人工智能（简称 AI）领域的一个子领域，该领域致力于将人工智能中的神经和符号传统结合在一起以增加价值。当前使用了不同的拼写，包括神经符号和神经符号，也包括符号亚符号和其他 - 我们认为它们是相同的。在这种情况下，术语神经是指广义上的人工神经网络或联结系统的使用。术语符号是指基于显式符号操作的人工智能方法。这通常包括术语重写、图形算法和自然语言问答等。然而，它通常被更狭义地理解为基于形式逻辑的方法，例如在人工智能的子领域“知识表示和推理”中所使用的方法。然而，这些界限很容易模糊，出于本概述的目的，我们不会将自己局限于基于逻辑的方法。NeSy AI 的总体前景在于希望实现两全其美的局面，其中神经和符号方法的互补优势可以以有利的方式结合起来。在神经方面，理想的优势包括可从原始数据进行训练和对底层数据故障的鲁棒性，而在符号方面，人们希望保留这些系统固有的高可解释性和可证明的正确性，以及在其设计和功能中轻松利用人类专家的深厚知识。在功能特征方面，将符号方法与机器学习（尤其是目前研究最为活跃的深度学习）相结合，人们希望在词汇处理、小数据集训练、错误恢复以及总体可解释性等问题上做得更好，而不是仅仅依赖深度学习的系统。神经和符号人工智能方法之间的一个根本区别与我们的讨论有关，即人工智能系统中信息的表示。对于符号系统，表示是明确的，原则上人类可以理解。例如，正方形（x）→长方形（x）这样的规则很容易通过符号方式理解和操作。然而，在神经系统中，表示通常是通过（许多）神经元之间的加权连接和/或对（可能大量）神经元的同时激活来实现的。特别是，人类观察者无法轻易识别所表示的内容。
生物序列计算生物分子序列的新领域：符号DNA，蛋白质和更多ITERATA健康平台支持几种方法和
BioSequence是基于链式主要结构的生物分子的基于弦乐的表示。这类生物分子包括DNA，RNA，肽和其他序列，它们在维持遗传信息和进行细胞的工作中起着重要的生物学作用。此表示由识别，比较，音译和进一步操作的函数支持。退化的字母处理均集成了整个这些操作。与实体系统的相互作用允许分析基因和蛋白质序列，并自定义序列及其行为的基本定义。BioSequence与现有的字符串功能集成，以实现新型的生物分子序列处理。分子结构与计算