详细内容或原文请订阅后点击阅览
拥抱经验主义——从彩票假设到创造现实世界影响：乔纳森·弗兰克尔访谈
在 ACM SIGAI 出版物《AI Matters》的这篇交叉文章中，Ella Scallan 与 Jonathan Frankle 坐下来讨论了彩票假设，他因此获得了 2023 年 AAAI/ACM 博士论文奖。在这次内容广泛的对话中，乔纳森深入探讨了经验主义与理论证明，以及计算机科学方法如何[...]
来源:ΑΙhub在 ACM SIGAI 出版物《AI Matters》的这篇交叉文章中，Ella Scallan 与 Jonathan Frankle 坐下来讨论了彩票假设，他因此获得了 2023 年 AAAI/ACM 博士论文奖。在这次内容广泛的对话中，乔纳森深入探讨了经验主义与理论证明、计算机科学方法如何改变（即使基本问题没有改变）、年轻研究人员如何快速适应一个重视影响力高于一切的世界，以及作为一名研究人员意味着什么。请继续阅读，了解富有洞察力和发人深省的讨论。
您荣获2023年AAAI/ACM博士论文奖。您论文研究的主题是什么？为什么这是您感兴趣的研究领域？
正是在这个主题上，我将其称为“彩票假设”，该假设是我在 2018 年首次提出的。目标是了解深度神经网络如何学习、为什么学习以及学习什么。尽管在过去的五到十年里神经网络引起了人们的广泛关注，但这仍然是一个非常神秘的过程，我认为我们还没有更接近一个明确的答案。事实上，当我们得到答案时，我们已经得到的任何答案都已经过时了，因为事情在不断变化——系统不断变得更大、更复杂。
我问的一个问题是：这些系统需要多大才能学习？一般来说，我们让模型变得更大，它们就会学得更好——但这有必要吗？有一种奇怪的现象在文献中已经观察了几十年，而且在几年前特别流行，在训练了深度神经网络之后，实际上可以删除很多参数，而模型的性能也一样好。
您的工作产生的持久影响是什么？
听起来人工智能领域确实发生了思维转变。因此，在 2017/2018 年，您通过暴力方式找到了参数值。从那以后有人提出了替代方法吗？