XiaoMi-AI文件搜索系统
World File Search SystemRNNS
Anantrasirichai, P. 和 Bull, DR (2021)。人工智能...
摘要 本文回顾了创意产业背景下人工智能 (AI) 技术和应用的现状。简要介绍了人工智能，特别是机器学习 (ML) 算法，包括卷积神经网络 (CNN)、生成对抗网络 (GAN)、循环神经网络 (RNN) 和深度强化学习 (DRL)。我们根据人工智能技术的使用方式将创意应用分为五类：i) 内容创作，ii) 信息分析，iii) 内容增强和后期制作工作流程，iv) 信息提取和增强，以及 v) 数据压缩。我们批判性地审视了这项快速发展的技术在每个领域的成功和局限性。我们进一步区分了人工智能作为创意工具的用途和它作为创造者的潜力。我们预见，在不久的将来，基于 ML 的人工智能将被广泛用作创意工具或协作助手。相比之下，我们观察到，在限制较少的领域，即人工智能作为“创造者”的领域，机器学习的成功率仍然不高。基于当代技术，人工智能（或其开发者）在与人类创意竞争中赢得原创作品奖项的潜力也很有限。因此，我们得出结论，在创意产业的背景下，人工智能的最大收益将来自于以人为本的地方——即人工智能旨在增强而不是取代人类创造力的地方。
超越几何：将神经回路中的计算时间结构与动态相似性分析进行比较
我们如何判断两个神经网络是否在特定计算中使用相同的内部过程？这个问题与神经科学和机器学习的多个子领域有关，包括神经人工智能、机械可解释性和脑机接口。比较神经网络的标准方法侧重于潜在状态的空间几何形状。然而，在循环网络中，计算是在动态层面实现的，两个执行相同计算且具有相同动态的网络不必具有相同的几何形状。为了弥合这一差距，我们引入了一种新颖的相似性度量，可在动态层面比较两个系统，称为动态相似性分析 (DSA)。我们的方法包含两个部分：利用数据驱动动态系统理论的最新进展，我们学习一个高维线性系统，该系统可准确捕捉原始非线性动力学的核心特征。接下来，我们使用 Procrustes 分析的新颖扩展来比较通过此嵌入的不同系统，该扩展解释了矢量场在正交变换下如何变化。在四个案例研究中，我们证明了我们的方法可以解开共轭和非共轭循环神经网络 (RNN)，而几何方法则存在不足。我们还表明，我们的方法可以以无监督的方式区分学习规则。我们的方法为比较分析神经回路中计算的基本时间结构打开了大门。
CNSMolGen：一种基于双向循环神经网络
中枢神经系统 (CNS) 药物对人类健康有着重大影响，例如治疗多种神经退行性疾病和精神疾病。近年来，基于深度学习的生成模型，特别是用于从头设计药物的模型，在加速药物发现、降低成本和提高疗效方面显示出巨大的潜力。然而，这些技术在 CNS 药物发现中的具体应用尚未得到广泛报道。在本研究中，我们开发了 CNSMolGen 模型，该模型使用双向循环神经网络 (Bi-RNNs) 系统通过学习具有 CNS 药物特性的化合物来进行 CNS 药物的从头分子设计。结果表明，预训练模型能够生成 90% 以上的全新分子结构，这些新分子具有 CNS 药物分子的性质并且可合成。此外，对具有特定生物活性的小数据集进行了迁移学习，以评估该模型在 CNS 药物优化中的潜在应用。这里，我们以经典中枢神经疾病靶标血清素转运体（SERT）为药物作为微调数据集，并生成针对靶标蛋白的聚焦数据库。使用基于物理的诱导契合对接研究验证了生成的分子的潜在生物活性。该模型的成功证明了其在中枢神经药物设计和优化中的潜力，为未来中枢神经药物开发提供了新的动力。
对空间数据挖掘的生成技术的调查
摘要 - 该论文重点是将生成技术集成到空间数据挖掘中，考虑到时空数据的显着增长和多样性。使用RNN，CNN和其他非生成技术中的广告，探索者探索了其在捕获时空数据中捕获时间和机关依赖性方面的应用。然而，诸如LLM，SSL，SEQ2SEQ和扩散模型之类的生成技术的出现已经为进一步增强时空数据挖掘提供了新的可能性。本文对基于生成技术的时空方法进行了全面的分析，并引入了专门为空间数据挖掘管道设计的标准化框架。通过提供详细的综述和使用生成技术的时空方法的新颖分类学，可以更深入地了解该领域中使用的各种技术。此外，本文强调了有希望的未来研究方向，敦促研究人员深入研究时空数据挖掘。它强调需要探索未开发的机会并推动知识的界限，以解锁新的见解并提高时空数据挖掘的有效性和效率。通过整体生成技术并提供标准化的框架，该论文有助于推进该领域，并鼓励研究人员探索在时空数据挖掘中生成技术的巨大潜力。
带有光电反馈的基于激光的储层计算机的不对称性能
基于物理的神经形态计算是当前数字技术的有前途的算法，因为其能量效率，并行性的潜力和较大的带宽。在各种体系结构中，复发性神经网络（RNN）特别适合以频度依赖性（例如音频和视频信号）处理数据[？]。但是，他们解决特定任务的监督培训通常是数据密集型的，需要调整网络的互发矩阵，这是硬件实现的挑战。储层计算（RC）提供了一个框架来通过简化训练过程来克服此问题，从本质上讲，将RNN未经训练以及在结合RNN节点的瞬时响应的输出层上使用简单的lin-1 eR-ear回归[？？]。这些考虑因素通过使用七个技术平台（包括微电子学，旋转和光子学[？？]。在后一类中，已经提出了各种插曲[？ ]包括大规模的自由空间体系结构[？？？]，光反馈体系结构[？？？]和光子集成电路[？？]。这些物理系统已经在各种任务上证明了最先进的性能，包括非线性通道均衡，混乱的时间序列预测和语音识别[？]。]，其中一个物理非线性反馈体系结构依赖于时间延迟储层（TDRC）方法[？
使用深神经网络从后顶层皮层解码
抽象目标。运动解码对于翻译脑部计算机界面（BCIS）的神经活动至关重要，并提供了有关如何在大脑中编码运动态的信息。深神经网络（DNNS）正在成为有前途的神经解码器。尽管如此，目前尚不清楚DNN在不同的电机解码问题和方案中的表现如何，哪个网络可以成为入侵性BCIS的良好候选人。方法。完全连接，卷积和复发性神经网络（FCNN，CNNS，RNNS）设计并应用于从麦克拉（Macaques）后顶叶皮层（PPC）中从V6A区域记录的神经元中解释运动态。考虑了三个运动任务，涉及到达和到达（后者在两个照明条件下）。dnns使用试用课程中的滑动窗口接近3D空间中的九个到达终点。为了评估模拟各种场景的解码器，还分析了性能，同时人为地减少了记录的神经元和试验的数量，并在执行从一项任务到另一个任务的转移学习时。最后，准确的时间课程用于分析V6A电机编码。主要结果。dnns的表现优于经典的幼稚贝叶斯分类器，而CNN在整个电机解码问题上还优于XGBoost和支持向量机分类器。cnns使用较少的神经元和试验时，导致了表现最佳的DNN，并且任务对任务转移学习改善了性能，尤其是在低数据制度中。意义。最后，V6A神经元甚至从动作计划中编码并触及到gr的属性，稍后发生握把属性的编码，更接近移动执行，并且在黑暗中显得较弱。结果表明，CNN是有效的候选者，可以从PPC记录中实现人类侵入性BCI的神经解码器，这也减少了BCI校准时间（转移学习），并且基于CNN的数据驱动分析可以提供有关大脑区域的编码特性和功能性启动的见解。
Andrey A. Podlesnyak在FY24机器学习中发表的论文...
软件包提供了简化的接口，以应用神经普通微分方程（节点）和神经控制的微分方程（NCDES）到多变量时间序列。模型对具有不规则样本间隔的数据是可靠的。与传统的LSTM或RNN相比，节点和NCDE是连续的时间模型。此外，此软件包还提供了构建和适合潜在vae-ncdes的界面，这是一种新技术，利用过去在潜在神经的常规微分方程上进行工作，以实现稳定的时间序列预测，并预测噪声测量。vae-ncde是一种生成时间序列模型，可概率多元时间序列预测。github：https：//code.ornl.gov/aires/aires-node doe代码：https：//doi.org/10.11578/dc.20240124.2 Minnervva linter httpps https https：//github.com/github.com/github.com/minnervva/minnervva/torrions in nontions in nontimations in nontimity in n ins prostion intery nistorts pytins pyertors 代码。它与测试工具（仍处于最终确定步骤中）相结合，该工具使用一系列参数测试Pytorch函数，以确定任何非确定性函数对特定输入的灵敏度，并验证Pytorch重复性文档是否正确，以适用于软件堆栈版本的任何组合以及各种硬件资源的任何组合。测试工具首先在其Alpha版本中使用，该论文最近提交给SC24正确性研讨会：https：//arxiv.org/abs/2408.05148。可以在此处找到包含所有复制SC24纸所需的代码和数据的存储库：
使用自适应智能预测时间序列的图形强化学习
摘要 - 强化学习以其能够对顺序任务进行建模和学习潜在数据模式的能力而闻名。深度学习模型已在回归和分类任务中广泛探索和采用。但是，深度学习具有其局限性，例如假设均等和有序数据，以及缺乏在时间序列预测方面合并图形结构的能力。图形性化neu-ral网络（GNN）具有克服这些挑战并捕获时间序列数据中的时间依赖性的能力。在这项研究中，我们提出了一种新的方法，用于使用GNN和增强学习（RL）监测时间序列数据。gnns能够将数据的图形结构明确地纳入模型，从而使它们能够以更自然的方式捕获时间依赖性。这种方法允许在复杂的时间结构中进行更准确的预测，例如医疗保健，交通和天气预报中的预测。我们还使用贝叶斯优化技术来微调我们的GraphRl模型，以进一步提高性能。所提出的框架在时间序列预测和监视中优于基线模型。本研究的贡献包括引入时间序列预测的新型GraphRl框架，以及与传统深度学习模型（例如RNN和LSTMS）相比，GNNS的有效性的证明。总体而言，这项研究证明了GraphRL在动态RL环境中提供准确有效的预测的潜力。
使用高级机器学习模型在YouTube评论上检测垃圾邮件：比较研究Gregorius Airlangga 1* 1 Atma Jaya天主教大学
摘要在YouTube等平台上产生的用户生成内容的指数增长导致垃圾邮件评论的增加，这对用户体验和内容审核的工作产生了负面影响。本研究介绍了各种机器学习模型的全面比较研究，用于检测YouTube上的垃圾评论。该研究评估了一系列传统和集合模型，包括线性支持向量分类器（LinearsVC），Randomforest，LightGBM，XGBoost和fotingClassifier，目的是识别自动垃圾邮件检测的最有效方法。数据集由标记的YouTube注释组成，并使用术语频率插图频率（TF-IDF）矢量化进行文本预处理。使用分层的10倍交叉验证对每个模型进行训练和评估，以确保鲁棒性和概括性。LinearsVC优于所有其他模型，其精度为95.33％，F1得分为95.32％。该模型表现出优异的精度（95.46％）和召回（95.33％），使其在区分垃圾邮件和合法评论方面非常有效。结果突出了线性垃圾邮件检测系统的线性潜力，在准确性和计算效率之间提供了可靠的平衡。此外，研究表明，尽管Random Forest和投票classifier之类的集合模型表现良好，但在这种情况下它们并没有超过更简单的线性模型。未来的工作将探索深度学习技术的结合，例如卷积神经网络（CNN）和经常性神经网络（RNN），以捕获更复杂的模式并进一步提高YouTube等社交媒体平台上的垃圾邮件检测准确性。
基于脑电图的运动想象分类的深度学习
由于记录过程繁琐，脑电图 (EEG) 数据集通常较小且维数较高。在这种情况下，强大的机器学习技术对于处理大量信息和克服维数灾难至关重要。人工神经网络 (ANN) 在基于 EEG 的脑机接口 (BCI) 应用中取得了良好的效果，但它们涉及计算密集型的训练算法和超参数优化方法。因此，虽然质量与成本之间的权衡通常被忽视，但意识到这一点却大有裨益。在本文中，我们将基于遗传算法的超参数优化程序应用于卷积神经网络 (CNN)、前馈神经网络 (FFNN) 和循环神经网络 (RNN)，所有这些网络都是故意浅显的。我们比较了它们的相对质量和能量时间成本，但我们也分析了具有相似精度的同类型网络的结构复杂性的变化。实验结果表明，优化过程提高了所有模型的准确率，并且只有一个隐藏卷积层的 CNN 模型可以与 6 层深度信念网络相等或略胜一筹。FFNN 和 RNN 无法达到相同的质量，尽管成本明显较低。结果还强调了这样一个事实，即同一类型网络的大小不一定与准确率相关，因为较小的模型在性能上可以匹敌甚至超越较大的模型。在这方面，过度拟合可能是一个促成因素，因为深度学习方法在有限的训练示例下会遇到困难。