XiaoMi-AI文件搜索系统
World File Search Systemrnn
在工作记忆任务期间，前额叶大脑活动的复发性神经网络模型
当将多个项目保存在短期内存中时，回顾性优先级优先级优先于另一个项目（复古示意）可以促进后续召回。然而，这种作用的神经和计算基础知之甚少。最近的一项研究记录了在复古任务期间猕猴侧向前额叶皮层（LPFC）中的神经信号，在（预先提示）和（会引发后）回归开始之前（预告症）和之后的延迟期间活动对比。他们报告说，在提示前延迟中，单个刺激被维持在神经种群活动的非独立子空间中，而在提示后延迟中，先前的项目被旋转成一个共同的子空间，有可能允许一种常见的读取机制。为了了解如何通过错误最小化可以学习此类代表性转变，我们通过监督训练了经常性的神经网络（RNN），以执行同等的提示回复任务。rnns提供了两个表示结合性颜色刺激的输入，然后进行了预示记忆延迟，位置返回和后提示延迟。我们发现，在猕猴LPFC中观察到的正交到平行的几何变换自然出现在经过训练以执行任务的RNN中。有趣的是，仅当需要在读数之前将提示信息用于几个周期的短期记忆中才能形成平行几何形状，这表明它在维护过程中可能具有鲁棒性。我们通过分析RNN的学习动态和连接模式以及用概率提示训练的模型的行为来扩展这些发现，从而使我们能够为将来的研究做出预测。总的来说，我们的发现与最新的理论说明是一致的，该账目提出的回顾将优先的内存项转化为前瞻性，面向动作的格式。
针对 Web of Science 科学领域的分层文本分类
ORCID iDs：Pouyan Jahani Rad https://orcid.org/0009-0007-2956-2209 Mahdi Bahaghighat https://orcid.org/0000-0002-1813-8417 摘要。本研究重点是制作一个有效的文本分类器，将给定的语料库映射到特定的科学领域。我们的研究是根据 Web of Science (WOS) 的类别对不同科学领域进行分类。我们在父级和子级设计和开发了各种深度学习架构，例如卷积神经网络 (CNN)、深度神经网络 (DNN) 和循环神经网络 (RNN)。为了使我们的模型表现更好，我们有效地使用了超频调优。我们的目标是为较低级别和较小的通用模型大小构建一个精确的分层文本分类器。评估采用一种称为分层混淆矩阵的特殊度量。基于对词嵌入、文档嵌入和超频调优的广泛研究，结果表明，在父子级别上分层组合 CNN 和 DNN 可以实现更高的准确率。我们的模型得分确实不错，F1 得分为 94.29%，准确率达到 99.33%。虽然在父级使用一个 RNN，在子级使用另一个 RNN 会导致准确率降低，但有效地减小了整体模型大小。我们还使用 AoI2WoS 数据集对各种模型架构进行了全面评估。通过结合 Google 新闻词嵌入，我们在 AoI2WoS 数据集上测试了不同的 RNN-DNN 和 RNN-RNN 模型组合。RNN-DNN 模型取得了最佳效果，准确率达到 98.71%，F1 得分达到 91.87%。这些发现不仅推动了分层文本分类的发展，而且为利用科学计量学和文献计量学研究提供了强有力的工具。
对预测天气的机器学习技术的比较分析：案例研究
从历史上看，天气前铸造被认为是基于科学和技术的大气国家的预测。为了建模气候元素的非林耳，ANN已被证明有用，深度学习（DL）AP进一步增强了解决气象参数非线性的能力（Abdalla等，2021; Ren等，2021）。一种广泛使用的用于天气预报的算法是随机森林。主要用于基于过去的预测来预测天气，它在使用大型数据集时的准确性及其在每个分类中分别使用的灵活性（Krocak等，2023; Dhamodaran等，2020; 2020; Tyralis et al。，2019）。但是，值得一提的是，每种技术都有其局限性。例如，在复发性神经网络（RNN）中梯度消失和爆炸的概率以及卷积神经网络（CNN）中卷积过滤器的构造可以限制这些方法在长期建模和在序列数据中建模长期和三重关系中的有效性。RNN的精制版本是长期术语内存技术（LSTM）。这些可以解决梯度消失的问题，
使用神经数据转换器进行神经群体活动的表征学习
理论上，神经群体活动反映了潜在的动态结构。可以使用具有显式动态的状态空间模型（例如基于循环神经网络 (RNN) 的模型）准确捕获此结构。但是，使用循环来显式建模动态需要对数据进行顺序处理，从而减慢脑机接口等实时应用的速度。在这里，我们介绍了一种非循环替代方案——神经数据转换器 (NDT)。我们通过将 NDT 应用于具有已知动态的合成数据集和来自猴子运动皮层的数据（在由 RNN 很好地建模的伸手任务期间），测试了 NDT 捕获自主动态系统的能力。NDT 可以对这些数据集以及最先进的循环模型进行建模。此外，它的非循环性可以实现 3.9 毫秒的推理，远低于实时应用的循环时间，并且比猴子伸手数据集上的循环基线快 6 倍以上。这些结果表明，明确的动力学模型对于建模自主神经群体动力学来说不是必需的。代码：github.com/snel-repo/neural-data-transformers。
电子系统中故障预测的基于自发的时间点过程模型：提高准确性和解释性
现有的用于预测电子设备故障率的模型通常会显示出差异，与实际测量相比，稳定时期的预测值较高，在流失期间的值较低。尽管它们经常用于模拟时间序列过程中的强度函数，但复发性神经网络（RNN）却难以捕获事件序列之间的长距离依赖性。此外，强度函数的固定参数形式可以限制模型的概括。为了解决这些缺点，提出了一种新颖的方法，利用注意机制在不依赖强度函数的情况下生成时间点过程。为了量化模型和现实分布之间的差异，模型使用Wasserstein距离来创建损失函数。此外，为了提高可解释性和概括性，使用一种自动机制来评估过去事件对当前发生的影响。比较测试表明，这种方法的表现超过了可能的可能性模型，而没有先前了解强度功能和类似RNN的生成模型，从而将相对错误率降低了3.59％，并将错误预测准确性提高了3.91％。
卷积神经网络的语言识别
摘要。语音识别是计算机与人类之间的一种交流方式，是计算语言学或自然语言处理的一个分支，有着悠久的历史。自动语音识别 (ASR)、文本转语音 (TTS)、语音转文本、连续语音识别 (CSR) 和交互式语音响应系统是解决该领域问题的不同方法。性能的提高部分归因于深度神经网络 (DNN) 对语音特征中复杂相关性进行建模的能力。在本文中，与使用循环神经网络 (RNN) 处理语音等序列数据的传统模型不同，随着深度网络中不同架构的出现以及传统神经网络 (CNN) 在图像处理和特征提取中的良好性能，CNN 在其他领域的应用得到了发展。结果表明，可以通过 CNN 提取波斯语的韵律特征，对短文本进行语音分段和标记。通过使用 128 和 200 个滤波器作为 CNN 和特殊架构，检测率的误差为 19.46，并且比 RNN 更节省时间。此外，CNN 简化了学习过程。实验结果表明，CNN 网络可以成为各种语言语音识别的良好特征提取器。
混合深度学习机制用于充电控制...
摘要 - 从环境友好性和能源效率的角度来看，电动汽车（EV）对传统汽油汽车构成威胁。可以通过预测与电动汽车充电的状态的预测来帮助确定电动汽车用户的未来充电需求。它可能会根据用户的实时位置提供自定义的充电容量统计信息，并指导收费基础架构的操作和管理。因此，出现的问题是电动汽车充电状态预测的有效模型。在这项研究中，建议采用混合深度学习方法，以确保安全可靠的充电操作，以防止电池被过度充电或排放。建议用于特征提取过程的递归神经网络（RNN），以获取电池上足够的功能信息。然后，研究建立了双向门控复发单位框架（GRU），以预测EV的状态。GRU从RNN的输出中获得了其输入，从而大大提高了模型的有效性。由于其简单得多的结构，RNN-GRU具有较低的计算性能。实验发现证明了GRU方法准确跟踪电动汽车行驶里程的能力。与广泛的现实世界测试所证明的相比，基于混合的深度学习预测方法可以使快速收敛速度较小的错误率较小的错误率。
传感器 - 语义学者
摘要：本文介绍一种新方法，将人机界面 (HMI) 状态（一种涵盖操作员动作和过程状态的视觉反馈状态模式）从多变量时间序列转换为自然语言处理 (NLP) 建模领域。该方法的目标是在给定 k 个滞后过去 HMI 状态模式的情况下，预测 n 个提前时间步长窗口的操作员响应模式。NLP 方法提供了在 HMI 状态模式中编码 (语义) 上下文关系的可能性。为此，介绍了一种使用序列到序列 (seq2seq) 深度学习机器翻译算法构建原始 HMI 数据以进行监督训练的技术。此外，基于注意力等当前最先进的设计元素的自定义 Seq2Seq 卷积神经网络 (CNN) NLP 模型与基于标准循环神经网络 (RNN) 的 NLP 模型进行了比较。结果表明，用于建模 HMI 状态的两种 NLP 模型设计具有相当的有效性。 RNN NLP 模型显示出更高的（≈ 26%）预测准确度，一般来说，无论是样本内还是样本外的测试数据集。然而，自定义 CNN NLP 模型显示出更高的（≈ 53%）验证准确度，表明在相同数量的可用训练数据的情况下，过度拟合较少。所提出的工业 HMI NLP 建模的实际应用，例如在发电站控制室、航空（驾驶舱）等，正朝着现实的方向发展
课程大纲 ECE556 - 雷达和遥感人工智能 9:30-10:45AM，T/R | 工程室 D102
本课程旨在通过介绍广泛的机器学习算法，让学生熟悉人工智能 (AI) 的数学和概念背景。成功完成本课程的学生将能够解释雷达和卫星数据及其多学科应用。重点将放在使用人工智能解决这些应用，包括降水识别、分类、估计和预测。通过实践练习，本课程还将让学生沉浸在各种深度学习技术中，例如卷积神经网络 (CNN)、循环神经网络 (RNN)、长短期记忆网络 (LSTM) 和生成对抗网络 (GAN)。