详细内容或原文请订阅后点击阅览
AI 的第零原理
如果我们想理解为什么(而不是如何)机器学习和人工智能能够发挥作用,那么我们需要下降到科学第一原理以下的水平,即认识论的水平。
来源:AI的零点原则我的名字是 Monica Anderson。我在 20 世纪 GOFAI(主要是 NLP)和 21 世纪 AI(深度神经网络)领域都有数十年的职业生涯。我于 2001 年 1 月 1 日开始研究第三类深度神经网络(有机学习)。当时,只有不到十几个人在这个领域工作,包括 Geoff Hinton、Yann Le Cun、Yoshua Bengio、Jürgen Schmidhuber 和他们的一些学生。大多数人直到 2012 年才了解深度学习,这意味着我领先了 11 年。
我从一开始就专注于深度离散神经元网络,其中学习从一台空机器开始,然后在主内存中构建伪神经元和伪突触结构。这个紧密相连的图构成了整个 Smallish 语言模型。在学习过程中构建此模型不需要 GPU、线性代数甚至浮点运算,这使得它与基于深度学习的任何东西都截然不同,而且效率更高。在这些成本低得多的数据结构之上构建转换器仍然是可能的。
几十年来,我从研究该领域和进行 20,000 多次实验中学到的东西构成了我的教育推广的基础,其中 SubStack 是其中的重要组成部分。我的主要发布网站名为 实验认识论 。我的更多作品可从我的公司网站 访问,我也在 Facebook 上发布了很多帖子。
几十年来,我从研究该领域和进行 20,000 多次实验中学到的东西构成了我的教育推广的基础,其中 SubStack 是其中的重要组成部分。我的主要发布网站名为 实验认识论 。更多我的作品可从我的 公司网站 访问,我也在 Facebook 上发布了很多文章。考虑以下认识论领域陈述:
全知不可用。
所有语料库都是不完整的。
(因此)所有智能都是会出错的。
我最初的重点是表明