XiaoMi-AI文件搜索系统
World File Search SystemRNNS
全面回顾人工智能......
人工智能（AI）被定义为人工实体为解决复杂问题而表现出的智能，通常被认为是计算机或机器的系统（Kumar等，2012）。随着大数据的出现和计算能力的提升，机器学习、人工神经网络和深度学习（Gao等，2022；Song等，2022；Gao等，2023）近年来发展迅速并不断融合其他学科，在理论和应用上取得了巨大成功（Chaturvedula等，2019；Brown等，2020；Woschank等，2020；Alzubaidi等，2021；Mohsen等，2023）。图1展示了AI与机器学习、人工智能、深度学习等相关概念之间的关系。同时，图1还展示了人工智能在药理学研究中的应用。人工智能的发展可以追溯到20世纪40年代，其历史进程和发展已在之前的许多综述中详细描述（Muggleton，2014；Haenlein and Kaplan，2019）。近几十年来，卷积神经网络（CNN）、循环神经网络（RNN）、图神经网络（GNN）和深度神经网络（DNN）（Gao et al., 2021; Lai et al., 2022）等神经网络的广泛应用，以及 ResNet（He et al., 2015; Zhang et al., 2024）、Attention 和 Transformer（Vaswani et al., 2017; You et al., 2022b）等深度学习算法的发展，推动了神经网络和深度学习的发展，并进一步优化了人工智能算法在各个领域的应用性能（Alzubaidi et al., 2021）。图 2 简要摘录并展示了人工智能发展过程中提出的最重要的算法。
Daniel Durstewitz Dept。理论神经科学（\ rgs）...
我们的小组在数学和算法级别上推动了ML/AI方法，重点是通过移动设备获得的时间序列数据，例如神经成像，脑电图/MEG或顺序行为数据（例如，生态时刻评估，EMA）。我们遵循一种强烈理论驱动的方法开发方法，深深植根于统计和动力学系统理论（DST）。鉴于在理论驱动的方法论发展中这种强大的主链，我们的方法和算法在深度学习领域处于绝对的最前沿，这为对神经和行为过程的完全新颖的见解提供了机会，这超出了“传统”机器/深度学习方法的范围。尤其是，我们对时间序列分析的DST观点会导致ML/AI方法，该方法产生了观察到时间序列的非线性动力学的机械解释模型。这是因为在某种程度上，任何已知的物理，生物学或社会系统都可以通过耦合微分方程的系统进行数学形式化。因此，与更传统的机器学习和时间序列预测的统计方法相比，我们的DST驱动方法具有两个主要优势：1）它们允许在单一主题级别对未来时间序列事件的理论上最佳预测； 2）此外，它们产生了一个可以深入，模拟和系统操纵的基础动力学的计算模型，以使（神经或行为）过程获得生成观察到的时间序列的（神经或行为）过程的机械见解。本质上，这些方法返回可用于预测个人疾病轨迹或探测可能的干预措施的个人行为和/或大脑动力学的计算模型。我们用于识别动力学系统基础时间序列观测的框架基于深层复发性神经网络（RNN），该神经网络（RNN）已知是动力学系统的通用近似值（即，可以模拟任何其他动态系统）。
矩阵在人工智能中的作用和应用
日出大学，拉贾斯坦邦阿尔瓦尔 摘要：矩阵是人工智能 (AI) 的基础，是各种应用程序中数据表示、操作和转换的关键工具。从机器学习算法到神经网络架构，矩阵理论支持基本计算过程，使 AI 系统能够管理海量数据集、检测复杂模式并执行复杂转换。本文探讨了矩阵在 AI 中不可或缺的作用，重点介绍了线性和逻辑回归中的基本矩阵运算，以及它们在卷积神经网络 (CNN) 和循环神经网络 (RNN) 等更高级模型中的应用。探讨了矩阵分解和特征值计算等关键数学运算在数据缩减和特征提取中的重要性，从而提高了计算机视觉、自然语言处理 (NLP) 和机器人等领域的计算效率。本文还解决了与大规模矩阵运算相关的计算挑战，例如高维数据处理、可扩展性和数值稳定性。为了克服这些限制，我们讨论了分布式矩阵计算框架、GPU 和 TPU 硬件加速以及稀疏矩阵技术的进步，展示了这些创新如何提高 AI 模型的效率和可扩展性。此外，量子计算和矩阵专用硬件解决方案的最新进展为未来的研究提供了有希望的方向，有可能通过实现矩阵计算的指数级加速来彻底改变 AI。总体而言，矩阵仍然是 AI 计算能力的核心，它提供了一个多功能且高效的框架，既支持当前的应用，也支持人工智能的新兴功能。关键词：矩阵理论、线性代数、机器学习、人工智能、奇异值分解 (SVD)。
在线词汇表1
人造神经网络（ANN）：由称为人工神经元的互连单元或节点组成，这些单元或节点受到大脑中生物神经元的启发。这些神经元通过模拟大脑突触的边缘连接。每个人造神经元从其他神经元或系统输入接收输入，执行这些输入的加权总和（向量乘法），然后通过非线性激活函数传递输出到另一个神经元或系统的输出。可以通过嵌套函数在数学上表示：𝑜𝑜= 𝜎𝜎（𝑊𝑊𝑊𝑊𝐾𝐾（𝑊𝑊𝑊𝑊 -𝑊𝑊 -𝐾𝐾 -1𝜎𝜎（…𝑊𝑊22）（𝑊𝑊1𝑥𝑥 +𝑏𝑏 +𝑏𝑏1） +𝑏𝑏2） +𝑏𝑏2） +𝑏𝑏𝑏𝑏𝐾𝐾−1） +𝑏𝑏𝑏𝑏），其中a是a𝑑𝑑0-d -ddimemensional vector vector input vector input input input input is a riiix as a a a a a a aa𝑊𝑊 𝑏𝑏-dimensional vector，而𝜎𝜎（（话说）是应用元素的非线性激活函数。𝑑𝑑𝑑𝑑是每一层隐藏的神经元的数量。𝑊𝑊𝑖𝑖和𝑏𝑏𝑏𝑏是学习给定功能的可训练参数。ANN是通用近似值。它们以各种形式出现，每种形式都由参数和非线性函数的特定结构约束定义。最常见的类型包括完全连接的神经网络（FCNN），卷积神经网络（CNNS），复发性神经网络（RNN）和变形金刚。
增强型空中交通管制系统——人工智能作为预测空中交通冲突的数字辅助系统
摘要：当今的空中交通管理 (ATM) 系统围绕空中交通管制员和飞行员发展。这种以人为本的设计在过去使空中交通非常安全。然而，随着航班数量的增加和使用欧洲空域的飞机种类的增加，它正在达到极限。它带来了严重的问题，例如拥堵、飞行安全性下降、成本增加、延误增加和排放量增加。将 ATM 转变为“下一代”需要复杂的人机集成系统，以提供更好的空域抽象并创建态势感知，正如文献中针对此问题所述。本文做出了以下贡献：(a) 概述了问题的复杂性。(b) 它引入了一种数字辅助系统，通过系统地分析飞机监视数据来检测空中交通中的冲突，从而为空中交通管制员提供更好的态势感知。为此，使用长短期记忆 (LSTM) 网络（一种流行的循环神经网络 (RNN) 版本）来确定其时间动态行为是否能够可靠地监控空中交通并对错误模式进行分类。 (c) 大规模、真实的空中交通模型（包含数千个包含空中交通冲突的航班）用于创建参数化的空域抽象，以训练 LSTM 网络的几种变体。所应用的网络基于 20-10-1 架构，同时使用泄漏 ReLU 和 S 形函数
公共启用云的深度学习框架...
gwalior，国会议员摘要：在本评论文章中研究了将深度学习方法纳入公共安全视频调查系统，并特别注意其改善实时监视和预防犯罪的转型能力。随着机器学习和计算机视觉的快速发展，包括卷积神经网络在内的深度学习模型以及经常性的神经网络（RNN）表明，在自动化视频监视任务（包括查找对象，活动识别和异常检测）的自动化能力方面表现出惊人的能力。这些模型对公共安全行动非常有用，因为它们可以使人群管理，可疑行为的识别以及盗窃或殴打等特定的行动。在研究这些系统的技术架构时，本文强调了零件边缘计算和云计算的效果，以允许可扩展性和实时数据处理。Edge Computing提供局部处理以降低延迟并增加响应时间，但基于云的解决方案保证了大量视频信息的完美集成和存储。此外，该研究解决了在公共安全中应用深度学习的困难，包括隐私问题，数据安全，道德问题以及法律的必要性。尽管存在这些困难，但该研究强调了这些技术如何帮助增强安全操作，降低人为错误并提高运营效率。未来的研究方向（例如改善模型的鲁棒性，结合多模式数据源，创建更符合道德和透明的人工智能系统）也来自审查。最后，本文提供了公共安全视频调查系统中深度学习的当前情况和未来可能性的详细概述，从而阐明了他们改变公共安全现场的能力。关键字：深度学习，公共安全，视频监视，异常检测，云计算
WTTE-RNN：威布尔事件时间递归神经网络
在本论文中，我们提出了一种预测事件发生时间的新模型：威布尔事件时间 RNN。这是一个用于预测下一个事件发生时间的时间序列的简单框架，适用于我们遇到连续或离散时间、右删失、重复事件、时间模式、随时间变化的协变量或不同长度的时间序列中的任何一个或所有问题时。所有这些问题在客户流失、剩余使用寿命、故障、尖峰训练和事件预测中经常遇到。所提出的模型估计下一个事件发生时间的分布具有离散或连续威布尔分布，其参数是递归神经网络的输出。该模型使用生存分析中常用的特殊目标函数（删失数据的对数似然损失）进行训练。威布尔分布足够简单，可以避免稀疏性，并且可以轻松地进行正则化以避免过度拟合，但仍然具有足够的表现力来编码诸如增加、平稳或减少风险等概念，并且可以在允许的情况下收敛到点估计。预测的威布尔参数可用于预测下一个事件时间的预期值和分位数。它还导致未来风险的自然 2d 嵌入，可用于监控和探索性分析。我们使用通用的审查数据框架来描述 WTTE-RNN，该框架可以轻松地与其他分布一起扩展并适用于多变量预测。我们表明，常见的比例风险模型和威布尔加速故障时间模型是 WTTE-RNN 的特殊情况。所提出的模型在具有不同程度的审查和时间分辨率的模拟数据上进行了评估。我们将其与二元固定窗口预测模型和处理审查数据的简单方法进行了比较。该模型优于简单方法，并且被发现具有许多优势和与二元固定窗口 RNN 相当的性能，而无需指定窗口大小和在更多数据上进行训练的能力。应用于 CMAPSS 数据集以进行模拟喷气发动机的 PHM 运行至故障得到了有希望的结果。
简历 - 阿伽门农·克拉索利斯
高级数据科学家和生物信息学家 Intelligencia AI，希腊雅典 2023 年 - 分子特性（ADMET）预测；临床试验结果预测；癌症治疗反应预测；生物医学知识图谱 机器学习研究员 Insilico Medicine，阿联酋（远程） 2023 年 分子特性（ADMET）预测；梯度提升；循环神经网络 (RNN)；不确定性量化；软件设计 高级机器学习工程师/技术主管 Deeplab，希腊雅典 2020 年 - 2022 年 使用图神经网络 (GNN) 进行早期药物发现的虚拟筛选 研发主管；项目管理（2 名机器学习工程师）；研究实习生监督（5 名培训生）；资金获取（NVIDIA 加速器计划 ∼ 20,000 欧元）；JEDI Billion Molecules 抗击 COVID-19 竞赛（入围团队）；传播（1 项专利申请；2 篇出版物）；研究与实验（模型训练和数据管理）；软件开发；与利益相关者的演示和交流 基于 EEG 的脑机接口 (BCI) 和深度神经网络 研发主管；算法团队工程管理（4 名 ML 工程师）；项目管理；软件设计和架构 研究助理（博士后） 英国纽卡斯尔大学工程学院 2018–2020 上肢肌电假肢控制的运动和机器学习 研究助理（博士后） 英国爱丁堡大学信息学院 2017–2018 深度学习应用于密码学 软件工程师 英国爱丁堡大学社会与政治科学学院 2013–2016 神经政治研究中 fMRI 实验的软件设计和开发 助教/实验室演示者 英国爱丁堡大学信息学院 2013–2017 ML 与模式识别；概率建模与推理；入门应用 ML；数据挖掘与探索；神经计算研究助理 英国南安普顿大学声音与振动研究所 (ISVR) 2012 用于人工耳蜗用户降噪和增强语音清晰度的 ML 算法
Deep Spiking Delayed Feedback Reservoirs and Its Application in Spectrum Sensing of MIMO-OFDM Dynamic Spectrum Sharing
在本文中，我们引入了一种深度脉冲延迟反馈储存器 (DFR) 模型，将 DFR 与脉冲神经元相结合：DFR 是一种新型的循环神经网络 (RNN)，能够捕捉时间序列中的时间相关性，而脉冲神经元是节能且符合生物学原理的神经元模型。引入的深度脉冲 DFR 模型具有节能的特点，并且能够分析时间序列信号。介绍了这种深度脉冲 DFR 模型的相应现场可编程门阵列 (FPGA) 硬件实现，并评估了底层的节能和资源利用率。探索了各种脉冲编码方案，并确定了用于分析时间序列的最佳脉冲编码方案。具体来说，我们利用动态频谱共享 (DSS) 网络中基于 MIMO-OFDM 的认知无线电 (CR) 中的频谱占用时间序列数据来评估所引入模型的性能。在 MIMO-OFDM DSS 系统中，可用频谱非常稀缺，高效利用频谱至关重要。为了提高频谱效率，第一步是确定现有用户未使用的频段，以便次要用户 (SU) 可以使用它们进行传输。由于信道相关性以及用户活动，不同时隙中频带的频谱占用行为存在显著的时间相关性。所引入的深度尖峰 DFR 模型用于捕获频谱占用时间序列的时间相关性，并预测未来时隙中潜在的频谱接入的空闲/繁忙子载波。评估结果表明，与传统的基于能量检测的策略和基于学习的支持向量机（SVM）相比，我们引入的模型在接收者操作特性（ROC）曲线上实现了更高的曲线下面积（AUC）。
WTTE-RNN：威布尔事件时间循环神经网络
在本文中，我们提出了一种预测事件发生时间的新模型：威布尔事件时间 RNN。这是一个用于预测下一个事件发生时间的时间序列的简单框架，适用于我们遇到连续或离散时间、右删失、重复事件、时间模式、随时间变化的协变量或不同长度的时间序列中的任何一个或所有问题。所有这些问题在客户流失、剩余使用寿命、故障、尖峰序列和事件预测中经常遇到。所提出的模型估计下一个事件发生时间的分布具有离散或连续威布尔分布，其参数是递归神经网络的输出。该模型使用生存分析中常用的特殊目标函数（删失数据的对数似然损失）进行训练。威布尔分布足够简单，可以避免稀疏性，并且可以轻松进行正则化以避免过度拟合，但仍然具有足够的表现力来编码诸如增加、平稳或减少风险之类的概念，并且如果允许的话可以收敛到点估计。预测的威布尔参数可用于预测下一个事件发生时间的预期值和分位数。它还会导致未来风险的自然 2d 嵌入，可用于监测和探索性分析。我们使用一个通用的删失数据框架来描述 WTTE-RNN，该框架可以轻松地与其他分布一起扩展并适用于多变量预测。我们表明，常见的比例风险模型和威布尔加速故障时间模型是 WTTE-RNN 的特殊情况。对具有不同程度删失和时间分辨率的模拟数据评估了所提出的模型。我们将它与二元固定窗口预测模型和处理删失数据的简单方法进行了比较。该模型优于简单方法，并且被发现具有许多优点和与二元固定窗口 RNN 相当的性能，而无需指定窗口大小和在更多数据上训练的能力。将 CMAPSS 数据集应用于模拟喷气发动机的 PHM 运行至故障得到了有希望的结果。