详细内容或原文请订阅后点击阅览
DeepMind 在 NeurIPS 2022 上的最新研究
NeurIPS 是全球最大的人工智能 (AI) 和机器学习 (ML) 会议,我们很荣幸能够以钻石赞助商的身份支持此次活动,帮助促进 AI 和 ML 社区的研究进展交流。来自 DeepMind 的团队将展示 47 篇论文,其中包括 35 篇外部合作论文,这些论文均来自虚拟小组和海报会议。
来源:DeepMind - 新闻与博客推进一流的大型模型、计算优化的 RL 代理以及更透明、更合乎道德和更公平的 AI 系统
第三十六届神经信息处理系统国际会议 (NeurIPS 2022) 将于 2022 年 11 月 28 日至 12 月 9 日作为混合活动在美国新奥尔良举行。
NeurIPS 2022NeurIPS 是世界上最大的人工智能 (AI) 和机器学习 (ML) 会议,我们很自豪能够作为钻石赞助商支持此次活动,帮助促进 AI 和 ML 社区研究进展的交流。
DeepMind 的团队将展示 47 篇论文,其中包括 35 篇外部合作论文,这些论文来自虚拟小组和海报会议。以下是我们介绍的一些研究的简要介绍:
一流的大型模型
大型模型 (LM) - 经过大量数据训练的生成式 AI 系统 - 在语言、文本、音频和图像生成等领域取得了令人难以置信的表现。它们的成功部分归功于其庞大的规模。
然而,在 Chinchilla 中,我们创建了一个 700 亿参数的语言模型,其表现优于许多大型模型,包括 Gopher。我们更新了大型模型的缩放定律,展示了以前训练过的模型对于所执行的训练量来说太大了。这项工作已经塑造了遵循这些更新规则的其他模型,创建了更精简、更好的模型,并在会议上获得了杰出主干论文奖。
700 亿参数语言模型,其表现优于许多大型模型 杰出主干论文在 Chinchilla 和我们的多模态模型 NFNets 和 Perceiver 的基础上,我们还提出了 Flamingo,这是一系列少量学习视觉语言模型。Flamingo 处理图像、视频和文本数据,是纯视觉模型和纯语言模型之间的桥梁。单个 Flamingo 模型在广泛的开放式多模态任务中为少量学习树立了新的先进水平。