科学家为人工智能创建“元素周期表”

研究人员提出了一个统一的数学框架,有助于解释为什么许多成功的多模式人工智能系统能够发挥作用。人们越来越依赖人工智能来组合和解释不同类型的数据,包括文本、图像、音频和视频。持续减缓多模式人工智能进展的一个障碍是决定哪种算法方法最适合[...]

来源:SciTech日报

研究人员提出了一个统一的数学框架,有助于解释为什么许多成功的多模式人工智能系统能够发挥作用。

人工智能越来越依赖于组合和解释不同类型的数据,包括文本、图像、音频和视频。持续减缓多模式人工智能进展的一个障碍是决定哪种算法方法最适合人工智能系统要解决的特定任务。

研究人员现在引入了一种统一的方式来组织和指导决策过程。埃默里大学的物理学家开发了一个新框架,为多模态人工智能的算法的推导提供了结构,他们的工作发表在《机器学习研究杂志》上。

“我们发现,当今许多最成功的人工智能方法都可以归结为一个简单的想法——压缩多种数据,使其足以保留真正预测您需要的数据,”埃默里大学物理学教授、该论文的高级作者 Ilya Nemenman 说道。 “这为我们提供了一种人工智能方法的‘周期表’。不同的方法属于不同的单元,基于方法的损失函数保留或丢弃哪些信息。”

损失函数是人工智能系统用来评估其预测错误程度的数学规则。在训练过程中,模型以损失函数为指导,不断调整其内部参数以减少误差。

“人们已经为多模式人工智能系统设计了数百种不同的损失函数,其中一些可能比其他更好,具体取决于上下文,”Nemenman 说。 “我们想知道,每次遇到多模式人工智能问题时,是否有比从头开始更简单的方法。”

统一框架

为了解决这个问题,团队开发了一个数学框架,将损失函数的设计直接与哪些信息应该保留、哪些信息可以忽略的决策联系起来。他们将这种方法称为变分多元信息瓶颈框架。

物理方法