•近似匹配(语义,丰富)•多媒体(上下文提取(DNN),视频知识图)•复杂的事件处理(发现,多服务组成,QoS)•未来(用于分布式DNN的微服务架构
神经科学知识指出大脑功能活动的相关性中存在冗余。当使用深度神经网络 (DNN) 模型对神经影像数据集进行分类时,可以消除这些冗余以缓解过度拟合的问题。我们提出了一种算法,该算法以分层方式删除 DNN 中不重要的节点,然后一次性添加一组相关特征。在使用功能性 MRI 数据集对患者和健康对照进行实验时,我们能够获得更简单、更通用的 DNN。获得的 DNN 仅使用初始可训练参数的 2% 左右,却能保持与完整网络相似的性能。此外,我们使用训练后的网络从功能性连接组中识别多种脑部疾病的显著脑区和连接。发现所识别的生物标志物与之前已知的疾病生物标志物密切相关。所提出的方法具有跨模态应用,可获得更精简的 DNN,似乎能更好地拟合数据。相应的代码可在 https://github.com/SCSE-Biomedical-Computing-Group/LEAN_CLIP 获得。
从磁共振图像(MRI)中自动分割脑肿瘤是计算机视觉中具有挑战性的任务之一。许多建议研究在图像分割中使用深神经网络(DNN),因为它们在脑肿瘤图像的自动分割方面具有高性能。由于梯度扩散问题和复杂性,通常需要大量时间和额外的计算能力来训练更深的神经网络。在本文中,我们提出了一种自动技术,该技术根据深度残留学习网络(RESNET)来解决DNN的梯度问题。 重新连接可以实现更准确性,并且可以使训练过程与等效DNN相比更快。 为了实现此增强,重新连接添加了与卷积神经网络层平行的捷径跳过连接。 模拟示例已在Dataset Brats 2015上进行,以验证所提出的技术的优越性。 结果验证了所提出的技术分别为完整,核心和增强区域的改善精度分别为83%,90%和85%。 此外,它的平均计算时间(3倍)比其他DNN技术快。在本文中,我们提出了一种自动技术,该技术根据深度残留学习网络(RESNET)来解决DNN的梯度问题。重新连接可以实现更准确性,并且可以使训练过程与等效DNN相比更快。为了实现此增强,重新连接添加了与卷积神经网络层平行的捷径跳过连接。模拟示例已在Dataset Brats 2015上进行,以验证所提出的技术的优越性。结果验证了所提出的技术分别为完整,核心和增强区域的改善精度分别为83%,90%和85%。此外,它的平均计算时间(3倍)比其他DNN技术快。
这项研究通过将深度神经网络(DNN)模型与基于特征的融合整合在一起,介绍了一种创新的药物配方优化方法。该研究利用各种数据集,包括分子数据库,生物反应数据集和药代动力学信息,以对影响生物系统中药物行为的复杂因素进行整体理解。DNN模型以其处理高维数据和捕获复杂关系的能力而被选为基于特征的融合,以增强药物制剂的认知策略。在10个试验中进行的模型的定量评估产生了令人鼓舞的结果。DNN模型表现出值得称赞的性能,平均精度为91.8%,精度为89.2%,召回93.5%,F1得分为91.3%。但是,基于特征的融合方法始终优于DNN,平均准确度为93.5%,精度为91.7%,召回94.6%,F1得分为92.8%。这些结果突出了基于特征的融合方法在优化药物制剂,展示更高的定量指标以及精确度和召回之间更加平衡的权衡方面的优越性。这项研究通过提供一个结合高级认知策略的强大框架来推动药物制定领域,从而有助于更有效和个性化的治疗干预措施。
高质量的 AI 解决方案需要对 AI 算法(例如深度神经网络 (DNN))及其硬件加速器进行联合优化。为了提高整体解决方案质量并提高设计效率,高效的算法和加速器协同设计方法是必不可少的。在本文中,我们首先讨论了算法/加速器协同设计问题的动机和挑战,然后提供了几种有效的解决方案。特别是,我们重点介绍了三种有效的协同设计方法的主要工作:1)第一个同时进行的 DNN/FPGA 协同设计方法; 2)双向轻量级 DNN 和加速器协同设计方法; 3)可区分且高效的 DNN 和加速器协同搜索方法。我们通过在 FPGA 和 GPU 上进行大量实验来证明所提出的协同设计方法的有效性,并与现有工作进行了比较。本文强调了算法加速器协同设计的重要性和有效性,并呼吁在这个有趣且要求高的领域取得更多的研究突破。
计算系统的能力正与其试图理解的海量视觉数据展开一场“军备竞赛”。在自动驾驶、机器人视觉、智能家居、遥感、显微镜、监控、国防和物联网等一系列应用中,计算成像系统记录和处理大量人类无法看到的数据,而是由基于人工智能 (AI) 的算法进行解释。在这些应用中,深度神经网络 (DNN) 正迅速成为视觉数据处理的标准算法方法 1-3。这主要是因为 DNN 在所有领域都取得了最先进的结果,而且往往领先优势很大。深度学习的最新突破得益于现代图形处理单元 (GPU) 的巨大处理能力和并行性,以及海量视觉数据集的可用性,这些数据集使得 DNN 能够使用监督机器学习策略进行高效训练。然而,运行日益复杂的神经网络的高端 GPU 和其他加速器对功率和带宽的需求巨大;它们需要大量的处理时间和笨重的外形尺寸。这些限制使得在边缘设备(如摄像头、自动驾驶汽车、机器人或物联网外设)中采用 DNN 具有挑战性。以自动驾驶汽车中的视觉系统为例,它们必须使用有限的计算资源即时做出稳健的决策。高速行驶时,瞬间的决策可以决定生死。事实上,几乎所有边缘设备都会受益于更精简的计算成像系统,提供更低的延迟和尺寸、重量和功率的改进。DNN 的两个阶段(训练和推理)的计算要求非常不同。在训练阶段,DNN 被输入大量标记示例,并使用迭代方法,其参数针对特定任务进行优化。训练完成后,DNN 用于推理,其中某些输入数据(例如图像)在前馈过程中通过网络发送一次,以计算所需的结果。在某些应用中,GPU 用于推理,但由于上述原因,对于许多边缘设备而言,这是不切实际的。
摘要 — 在过去十年中,使用深度神经网络 (DNN) 的医学图像分割 (MIS) 取得了显着的性能改进,并具有巨大的发展前景。本文对基于 DNN 的 MIS 进行了全面的研究。智能视觉系统通常根据其输出级别进行评估,例如数据、信息、知识、智能和智慧 (DIKIW),而这些级别的 MIS 中最先进的解决方案是研究的重点。此外,可解释人工智能 (XAI) 已成为一个重要的研究方向,因为它旨在揭示以前 DNN 架构的“黑匣子”性质,以满足透明度和道德要求。该研究强调了 MIS 在疾病诊断和早期检测中的重要性,特别是通过及时诊断来提高癌症患者的存活率。XAI 和早期预测被认为是从“智能”到“智慧”之旅的两个重要步骤。此外,本文还解决了现有挑战并提出了潜在的解决方案,以提高实施基于 DNN 的 MIS 的效率。
人工智能在理解生物视觉方面的前景依赖于将计算模型与大脑数据进行比较,从而捕捉视觉信息处理的功能原理。深度神经网络 (DNN) 已成功匹配大脑前馈视觉通路延伸至腹侧颞叶皮层过程中发生的分层处理转换。然而,我们仍有待了解 DNN 是否能够成功描述早期视觉皮层中的反馈过程。在这里,我们研究了人类早期视觉皮层与具有编码器/解码器架构的 DNN 之间的相似性,以无监督方式训练以填充遮挡并重建未见过的图像。使用表征相似性分析 (RSA),我们比较了人类参与者在观看部分遮挡图像时未受刺激的早期视觉皮层斑块的 3T fMRI 数据与来自相同图像的不同 DNN 层激活。结果表明,我们的网络在与 fMRI 数据的相似性方面优于经典监督网络 (VGG16),这意味着改进的视觉神经网络模型需要结合捕捉皮层反馈处理的架构。我们还发现,与编码器激活相比,DNN 解码器通路激活与大脑处理更相似,这表明早期视觉皮层中存在中级和低级/中级特征的整合。挑战 AI 模型和人脑解决同一项任务提供了一种将 DNN 与大脑数据进行比较的宝贵方法,并有助于限制我们对信息处理的理解,例如神经元预测编码。
摘要 - 作为自治系统,越来越多地依赖深度神经网络(DNN)来实施导航管道功能,不确定性估计方法至关重要,这是估计对DNN预测的信心的重要性。贝叶斯深度学习(BDL)提供了一种原则性的方法来模拟DNN中的不确定性。但是,在基于DNN的系统中,并非所有组件都使用不确定性估计方法,并且通常会忽略它们之间的不确定性传播。本文提供了一种考虑BDL组件之间的不确定性和相互作用以捕获整体系统不确定性的方法。我们研究了基于BDL的系统对自动航空导航的不确定性传播的影响。实验表明,我们的方法使我们能够捕获有用的不确定性估计,同时在最终任务中稍微改善了系统的性能。此外,我们讨论采用BDL来构建可靠的自主系统的好处,挑战和含义。索引术语 - Bayesian深度学习,不确定性宣传,无人驾驶,导航,动态依赖能力
i 研究人员已经证明深度神经网络 (DNN) 可能会被各种(“对抗性”)攻击 1 所欺骗,包括对单个图像像素的更改 2 和物理世界中的攻击 3,4。因此,人们研究了针对对抗性攻击的对策 5,6。ii 常见的 DNN 类型,例如卷积神经网络 (CNN),并没有提供可靠的置信度指标。不确定性度量对于设计可靠的系统至关重要,这些系统可在置信度较低时做出反应,例如通过系统性能下降。人们研究了能够克服这一根本缺陷的 CNN 扩展,并取得了有希望的结果 7,8。iii DNN 通常由数百万个参数组成,这些参数人类无法直观理解。因此,DNN 的故障通常无法追溯到原因,这大大降低了可调试性和安全性分析的可能性。探索这一领域(“可解释的人工智能”)的研究已经产生了有用的方法 9,10,这些方法通常通过视觉表示显着提高可解释性。