摘要 —脉冲神经网络 (SNN) 具有生物现实性,且由于其事件驱动机制而在低功耗计算方面具有实际应用前景。通常,SNN 的训练会在各种任务上遭受准确度损失,其性能不如 ANN。提出了一种转换方案,通过将训练好的 ANN 参数映射到具有相同结构的 SNN 来获得具有竞争力的准确度。然而,这些转换后的 SNN 需要大量的时间步骤,从而失去了节能优势。利用 ANN 的准确度优势和 SNN 的计算效率,提出了一种新颖的 SNN 训练框架,即逐层 ANN 到 SNN 知识提炼 (LaSNN)。为了实现具有竞争力的准确度和减少推理延迟,LaSNN 通过提炼知识而不是转换 ANN 的参数将学习从训练有素的 ANN 转移到小型 SNN。通过引入注意力机制,我们弥合了异构 ANN 和 SNN 之间的信息鸿沟,利用我们的分层蒸馏范式有效地压缩了 ANN 中的知识,然后有效地传输这些知识。我们进行了详细的实验,以证明 LaSNN 在三个基准数据集(CIFAR-10、CIFAR-100 和 Tiny ImageNet)上的有效性、功效和可扩展性。与 ANN 相比,我们实现了具有竞争力的 top-1 准确率,并且推理速度比具有类似性能的转换后的 SNN 快 20 倍。更重要的是,LaSNN 灵活且可扩展,可以毫不费力地为具有不同架构/深度和输入编码方法的 SNN 开发,从而促进其潜在发展。
相关误差指数用于评估预期结果与实验结果之间的匹配程度。图 5 显示了与四种不同模型相关的指数。图 4 显示了数据与直线平分线的比较。非线性模型中数据变化越大,表示准确度越低,而直线上数据分散度越大,表示准确度越高。图 4 中,实验数据显示在 x 轴上,而模型预测绘制在 y 轴上。图 4 显示,与竞争模型相比,立方模型提供了最
卷积神经网络(CNN)是一种广泛使用的深度学习模型,对于图像识别和分类任务特别有效。CNN的性能不仅受其建筑的影响,而且受到其超参数的严重影响。因此,优化超参数对于改善CNN模型性能至关重要。在这项研究中,作者提出了利用优化算法,例如随机搜索,使用高斯工艺的贝叶斯优化以及使用树状结构化parzen估计器进行贝叶斯优化,以微调CNN模型的超标仪。将优化的CNN的性能与传统的机器学习模型进行了比较,包括随机森林(RF),支持向量分类(SVC)和K-Nearest Neighbors(KNN)。在这项研究中使用了MNIST和Olivetti Faces数据集。在MNIST数据集的训练过程中,CNN模型的最低准确度达到97.85%,超过了传统模型,在所有优化技术中,最大准确度为97.50%。同样,在Olivetti Faces数据集上,CNN的最低准确度为94.96%,而传统模型的最高准确度为94.00%。在训练测试程序中,CNN表现出令人印象深刻的结果,在MNIST数据集上达到了超过99.31%的准确率,而Olivetti Face face Dataset的准确率超过98.63%,其最大值分别为98.69%和97.50%。此外,该研究还将CNN模型的性能与三种优化算法进行了比较。结果表明,与传统模型相比,将CNN与这些优化技术集成可显着提高预测准确性。
根据实验室环境中进行的大量研究,生物特征识别技术的准确度已经提高,尤其是面部识别,但在了解现实世界的表现方面仍然存在差距。根据 GAO 审查的文献和 GAO 采访的研究人员,各种因素(例如,生物特征识别算法所用数据集缺乏人口多样性)都可能导致不同人口群体的准确度存在差异。虽然在实验室测试中已经研究了技术性能的差异,但现实世界环境中的性能研究却少得多,例如,很难获取跨人口群体的有意义的样本。
摘要。本文旨在对涉及机器学习 (ML) 和深度学习 (DL) 预测心脏病的研究工作进行系统回顾。为此,进行了详尽的搜索,并在分析了收集到的文献后,对以下方面进行了更多研究:各国对 ML 和 DL 的使用、最常用且准确度最高的技术、工具、指标、心脏病类型和变量选择算法,这些方面是编写本文的基础。目的是通过机器学习预测心脏病的应用,更深入地了解方法、技术和指标。研究结果表明,印度、中国和巴基斯坦是研究使用 ML 和 DL 预测心脏病最多的国家,随机森林、SVM 和逻辑回归也是最常用的技术,其中 XGBoost、集成深度学习和 Stacking 是获得最佳准确度结果的技术。Python 被认为是最好的工具。使用的最常用指标是准确度、精确度和 F1 分数,应用的疾病类型是冠状动脉心脏,因为选择算法是核和信息增益。由于使用机器学习和深度学习研究心脏病的研究很少,这项工作也为新的研究指明了方向。
脑瘤是成人和儿童第十大致死原因。及早发现和治疗可显著提高存活率。深度学习的最新进展已显示出使用磁共振成像 (MRI) 扫描识别和分类脑瘤的前景。本文介绍了一种集成经典和混合量子启发式图神经网络进行肿瘤分类的新方法。经典图卷积神经网络 (GCNN) 分析医学成像数据中的复杂关系,而混合量子图神经网络 (QGNN) 利用量子计算原理来提高性能。先前的研究强调了脑成像数据的多样性所带来的挑战。本研究比较了各种分类方法,强调架构、训练技术和性能指标。目的是训练和评估从 MRI 扫描中识别脑瘤的模型。混合 QGNN 表现出与先进的经典 GCNN 相当的准确度和损失指标,训练期间准确度从 0.41(41%)提高到 0.64(64%),验证数据集中的准确度从 0.31(31%)提高到 0.52(52%),从而展示了其在区分正常和肿瘤图像方面的有效性。
人为因素 (HF) 的重要性早已在航空业得到认可,深入了解和预防人为失误是航空安全委员会面临的首要挑战。本研究的重点是确定导致航空事故和事件的人为失误的特征,并在大量航空事故样本中发现这些特征。考古数据收集于 1971 年至 2018 年,共计 47 年,用于识别 HF 的存在,并与指示飞行员特征、坠机条件和飞机特征的属性进行了彻底分析。模型高斯朴素贝叶斯、随机森林、逻辑回归、XGBoost 分类器、SVM 和人工神经网络 (ANN) 建模,以评估各个属性与坠机时 HF 概率的关联。通过这项研究,我们发现准确度可以为每个分类器提供准确的评估。与前三个模型相比,使用交叉验证的 SVM 可以达到 96% 的最高准确度。使用超参数调整可以提高 ANN 模型中 93.19% 的结果,从而达到 93.29% 的准确度。在评估这项研究的过程中,我们将展示如何使用机器学习模型来获取有意义的信息。