神经网络回归已有 10 年。在这一周年纪念日的推动下,我们对人工智能 (AI) 采取了整体视角。认知任务的监督学习得到了有效解决——前提是我们拥有足够高质量的标记数据。然而,深度神经网络模型不易解释,因此黑盒和白盒建模之间的争论成为了焦点。注意力网络、自我监督学习、生成建模和图神经网络的兴起拓宽了人工智能的应用空间。深度学习也推动了强化学习作为自主决策系统核心构建块的回归。新人工智能技术可能带来的危害引发了透明度、公平性和问责制等社会技术问题。控制人才、计算资源以及最重要的数据的大型科技公司在人工智能领域的主导地位可能会导致极端的人工智能鸿沟。尽管最近人工智能驱动的对话代理取得了戏剧性和出人意料的成功,但自动驾驶汽车等备受瞩目的旗舰项目的进展仍然难以捉摸。必须注意缓和围绕该领域的言论,并使工程进展与科学原理保持一致。
– 超越基于 SGD 的训练,转向二阶方法 – 需要支持快速随机算法的 DSA – 科学 ML/计算的重要应用 6
神经网络回归已有 10 年。在这一周年纪念日的推动下,我们对人工智能 (AI) 采取了整体视角。认知任务的监督学习得到了有效解决——前提是我们拥有足够高质量的标记数据。然而,深度神经网络模型不易解释,因此黑盒和白盒建模之间的争论成为了焦点。注意力网络、自我监督学习、生成建模和图神经网络的兴起拓宽了人工智能的应用空间。深度学习也推动了强化学习作为自主决策系统核心构建块的回归。新人工智能技术可能带来的危害引发了透明度、公平性和问责制等社会技术问题。控制人才、计算资源以及最重要的数据的大型科技公司在人工智能领域的主导地位可能会导致人工智能的极端分化。尽管人工智能驱动的对话代理最近取得了戏剧性和出人意料的成功,但备受瞩目的旗舰项目(如自动驾驶汽车)的进展仍然难以捉摸。必须小心调节该领域的言论,并使工程进步与科学原理保持一致。
神经网络回归已有 10 年。在这一周年纪念日的推动下,我们对人工智能 (AI) 采取了整体视角。认知任务的监督学习得到了有效解决——前提是我们拥有足够高质量的标记数据。然而,深度神经网络模型不易解释,因此黑盒和白盒建模之间的争论成为了焦点。注意力网络、自我监督学习、生成建模和图神经网络的兴起拓宽了人工智能的应用空间。深度学习也推动了强化学习作为自主决策系统核心构建块的回归。新人工智能技术可能带来的危害引发了透明度、公平性和问责制等社会技术问题。控制人才、计算资源以及最重要的数据的大型科技公司在人工智能领域的主导地位可能会导致人工智能的极端分化。尽管人工智能驱动的对话代理最近取得了戏剧性和出人意料的成功,但备受瞩目的旗舰项目(如自动驾驶汽车)的进展仍然难以捉摸。必须小心调节该领域的言论,并使工程进步与科学原理保持一致。
神经网络回归已有 10 年。在这一周年纪念日的推动下,我们对人工智能 (AI) 采取了整体视角。认知任务的监督学习得到了有效解决——前提是我们拥有足够高质量的标记数据。然而,深度神经网络模型不易解释,因此黑盒和白盒建模之间的争论成为了焦点。注意力网络、自我监督学习、生成建模和图神经网络的兴起拓宽了人工智能的应用空间。深度学习也推动了强化学习作为自主决策系统核心构建块的回归。新人工智能技术可能带来的危害引发了透明度、公平性和问责制等社会技术问题。控制人才、计算资源以及最重要的数据的大型科技公司在人工智能领域的主导地位可能会导致人工智能的极端分化。尽管人工智能驱动的对话代理最近取得了戏剧性和出人意料的成功,但备受瞩目的旗舰项目(如自动驾驶汽车)的进展仍然难以捉摸。必须小心调节该领域的言论,并使工程进步与科学原理保持一致。
摘要 — 医学图像分析经常遇到数据稀缺的挑战。迁移学习在解决此问题的同时还节省了计算资源,是一种有效的方法。最近出现了一些基础模型,例如使用视觉变换器架构的 DINOv2,这为该领域开辟了新的机遇,并引起了人们的极大兴趣。但是,DINOv2 在临床数据上的表现仍需验证。在本文中,我们使用三种临床脑 MRI 数据模式执行了神经胶质瘤分级任务。我们在迁移学习环境中比较了各种预训练深度学习模型(包括基于 ImageNet 和 DINOv2 的模型)的性能。我们的重点是了解冻结机制对性能的影响。我们还在其他三种类型的公共数据集上验证了我们的发现:胸部 X 光检查、眼底 X 光检查和皮肤镜检查。我们的研究结果表明,在我们的临床数据集中,DINOv2 的性能不如基于 ImageNet 的预训练模型,而在公共数据集中,DINOv2 通常优于其他模型,尤其是在使用冻结机制时。在不同任务中,不同大小的 DINOv2 模型的性能相似。总之,DINOv2 适用于医学图像分类任务,特别是对于类似于自然图像的数据。然而,它的有效性可能会因与 MRI 等自然图像有显著差异的数据而有所不同。此外,采用较小版本的模型就足以完成医疗任务,从而节省资源。我们的代码可在 https://github.com/GuanghuiFU/medical dino eval 获得。
来源:ImageNet 主页(http://image-net.org/challenges/talks_2017/ILSVRC2017_overview.pdf)(注)ILSVRC(ImageNet 大规模视觉识别挑战赛)是一项基于人工智能的
摘要:沥青路面裂缝构成了表面材料的普遍和严重的困扰,在选择适当的维修策略之前,必须对劣化的类型进行分类以识别根本原因。有效的检测和分类最大程度地减少伴随成本,并同时增加路面服务寿命。这项研究采用了使用Crack500数据集和GitHub提供的其他数据集可用的辅助数据,采用卷积神经网络(CNN)进行沥青路面裂纹检测。此数据集具有四种类型的裂纹。:水平,垂直,对角线和鳄鱼。还对ImageNet训练的五个预训练的CNN模型也接受了培训和评估以进行转移学习。紧急结果表明,有效网络B3是最可靠的模型,并获得了94%F1_SCORE和94%精度的结果。通过对ImageNet预先训练的权重进行转移学习和对CNN进行微调,通过在同一数据集上进行了培训。结果表明,修改模型以96%的F1_SCORE和96%的精度显示出更好的分类性能。通过将ImageNet重量的有效传输和对有效网络B3架构的顶层进行微调以满足分类要求的有效转移,可以实现这种高分类的精度。最后,混乱矩阵表明,某些类别的裂纹在概括方面的性能要比其他裂纹更好。因此,需要进一步的进一步进步,以微调的预训练模型。这项研究表明,高分类结果是由于使用ImageNet权重的成功转移学习和微调而产生的。
4 应用于语义分割的深度学习技术回顾 - https://arxiv.org/pdf/1704.06857.pdf 5 ImageNet 数据集 - https://www.image-net.org/challenges/LSVRC/